JP6478725B2 - 計測装置及びロボット - Google Patents

計測装置及びロボット Download PDF

Info

Publication number
JP6478725B2
JP6478725B2 JP2015046345A JP2015046345A JP6478725B2 JP 6478725 B2 JP6478725 B2 JP 6478725B2 JP 2015046345 A JP2015046345 A JP 2015046345A JP 2015046345 A JP2015046345 A JP 2015046345A JP 6478725 B2 JP6478725 B2 JP 6478725B2
Authority
JP
Japan
Prior art keywords
wavelength
light
pixel
image
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015046345A
Other languages
English (en)
Other versions
JP2016166784A (ja
Inventor
裕也 西川
裕也 西川
蔵本 福之
福之 蔵本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015046345A priority Critical patent/JP6478725B2/ja
Priority to US15/057,561 priority patent/US10018722B2/en
Publication of JP2016166784A publication Critical patent/JP2016166784A/ja
Application granted granted Critical
Publication of JP6478725B2 publication Critical patent/JP6478725B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、被計測物の位置又は姿勢を計測する計測装置及びロボットに関する。
近年、工業製品の組立工程などのこれまで人間が行ってきた複雑なタスクをロボットが代わりに行うようになってきている。ロボットはハンドなどのエンドエフェクタによって部品を把持して組立を行うが、このような組立を実現するためには、把持対象の物品(ワーク)の位置又は姿勢を計測する必要がある。
例えば、濃淡画像から得られる計測情報(エッジデータ)と、距離画像から得られる計測情報(距離点群データ)とを利用したモデルフィッティングによって、ワークの位置又は姿勢を計測する技術が知られている(特許文献1参照)。かかる技術では、濃淡画像における誤差と距離画像における誤差とがそれぞれ別々の確率分布に従うものとして、最尤推定を用いてワークの位置又は姿勢を推定している。従って、初期条件が悪い場合であっても、ワークの位置又は姿勢を安定的に推定することが可能となる。
ここで、組立工程を高速化するために、ロボットを移動させながらワークの位置又は姿勢を計測する場合を考える。この場合、濃淡画像と距離画像との視野ずれを保証するために、濃淡画像と距離画像とを同時に取得しなければならない。そこで、濃淡画像用照明部と距離画像用照明部とを用いて、波長が異なる光でワークを同時に照明し、波長分離プリズムでそれぞれの波長の光に分離して、濃淡画像用センサと距離画像用センサとで両画像を同時に撮像する技術が提案されている(特許文献2参照)。
特許第5393318号公報 特許第5122729号公報
しかしながら、特許文献2に開示された技術では、濃淡画像と距離画像とでそれぞれセンサが必要となるため、以下のような問題(1)、(2)及び(3)が生じてしまう。
(1)複数のセンサが必要となるため、装置コストが増加する。
(2)複数のセンサを配置する必要があるため、装置サイズが大型化する。
(3)濃淡画像と距離画像とを別々のセンサで取得するため、照明部やセンサの発熱などの温度変動に対する安定性に課題がある。
本発明は、このような従来技術の課題に鑑みてなされ、計測精度、コスト、サイズ又は安定性の点で有利な計測装置を提供することを例示的目的とする。
上記目的を達成するために、本発明の一側面としての計測装置は、被計測物の位置又は姿勢を計測する計測装置であって、パターンを有する第1波長の光で前記被計測物を照明する第1照明部と、前記第1波長とは異なる第2波長の光で前記被計測物を照明する第2照明部と、互いに隣接する複数の画素が縦横に配列された1つの画素ユニットを有し、前記1つの画素ユニットにより前記第1波長の光と前記第2波長の光とで照明された前記被計測物を撮像し、前記1つの画素ユニットにより前記第1波長の光に対応する第1画像と前記第2波長の光に対応する第2画像とを取得する撮像素子と、前記被計測物と前記撮像素子との間に配置され、前記第1波長の光と前記第2波長の光とを分離して、前記第1波長の光が入射する画素の数が前記第2波長の光が入射する画素の数以上となるように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させる光学部材と、前記第1画像と前記第2画像とに基づいて、前記被計測物の位置又は姿勢の情報を求める処理部と、を有することを特徴とする。
本発明の更なる目的又はその他の側面は、以下、添付図面を参照して説明される好ましい実施形態によって明らかにされるであろう。
本発明によれば、例えば、計測精度、コスト、サイズ又は安定性の点で有利な計測装置を提供することができる。
本発明の一側面としての計測装置の構成を示す概略図である。 図1に示す計測装置における第1照明部のマスクの構成の一例を示す図である。 図1に示す計測装置における光学部材である波長分離フィルタの構成の一例を示す図である。 図1に示す計測装置で取得される距離画像の一例を示す図である。 図1に示す計測装置で取得される濃淡画像の一例を示す図である。 図1に示す計測装置で取得される距離画像及び濃淡画像のそれぞれにおける欠落画素の補間を説明するための図である。 距離画像用の画素と濃淡画像用の画素との画素数比と、距離画像の計測精度との関係を示す図である。 ワークに投影されるパターンの撮像素子上でのライン幅と、距離画像の計測精度の低下率との関係を示す図である。 図1に示す計測装置における光学部材である波長分離フィルタの構成の一例を示す図である。 カラーフィルタの分光感度特性の一例を示す図である。 距離画像用の画素と濃淡画像用の画素との位置関係を示す図である。 濃淡画像用の画素と距離画像用の画素との位置関係を示す図である。
以下、添付図面を参照して、本発明の好適な実施の形態について説明する。なお、各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
図1は、本発明の一側面としての計測装置100の構成を示す概略図である。計測装置100は、パターン投影法を用いて、例えば、被計測物であるワーク5の位置又は姿勢を計測する。計測装置100は、図1に示すように、距離画像用の第1照明部1と、濃淡画像用の第2照明部2と、撮像部3と、処理部4とを有する。処理部4は、後述するように、撮像部3で取得された距離画像と濃淡画像とに基づいて、ワーク5の3次元情報やエッジなどの形状の情報を求める。
計測装置100は、距離画像計測部と濃淡画像計測部とによって距離画像と濃淡画像とを同時に取得し、距離画像及び濃淡画像の2つの画像を利用してモデルフィッティングすることによって、ワーク5の位置又は姿勢を計測する装置である。なお、モデルフィッティングは、予め作成されたワーク5のCADモデルに対して行われものであって、ワーク5の3次元形状が既知であることを前提とする。
まず、計測装置100の主要部である距離画像を取得するための距離画像計測部及び濃淡画像を取得するための濃淡画像計測部のそれぞれについて説明する。
距離画像計測部について説明する。距離画像とは、被計測物であるワーク5(の表面上の点)の3次元等の情報を示すものであって、各画素が奥行きの情報を含む画像である。距離画像計測部は、第1照明部1、撮像部3及び処理部4によって構成される。第1照明部1は、パターンを有する第1波長の光でワーク5を照明する。撮像部3は、第1照明部1からワーク5に照射(投影)されたパターンを、第1照明部1と異なる方向から撮像して距離画像を取得する。処理部4は、撮像部3で撮像された距離画像から、三角測量の原理に基づいて、ワーク5の3次元情報を求める。
距離画像計測部において、第1照明部1からワーク5に投影するパターンは、1つの距離画像からワーク5の3次元情報を求めることが可能なパターンである。これは、計測装置100は、ロボットを移動させながらワーク5の位置又は姿勢を計測することを想定した装置であるからである。複数の距離画像からワーク5の3次元情報を求める計測方式では、ロボットの移動によって各距離画像の視野ずれが生じ、3次元情報を高精度に求めることができない。1つの距離画像から3次元情報を求めることが可能なパターンとしては、図2に示すようなドットによって符号化されたドットラインパターンが知られている。ワーク5に投影されたドットラインパターンのドットの位置関係に基づいて、ラインパターンと距離画像との対応付けを行うことで、1つの距離画像からワーク5の3次元情報を求めることができる。なお、本実施形態では、第1照明部1からワーク5に投影するパターンの具体例として、ドットラインパターンを説明した。但し、第1照明部1からワーク5に投影するパターンは、ドットラインパターンに限定されるものではなく、1つの距離画像からワーク5の3次元情報を求めることができるパターンであればよい。
第1照明部1は、本実施形態では、光源9と、照明光学系10と、マスク11と、投影光学系12とを含む。照明光学系10は、光源9から射出された第1波長の光でマスク11を均一に照明する、例えば、ケーラー照明するための光学系である。マスク11には、例えば、ガラス基板をクロムめっきすることによって、ワーク5に投影するパターン(に対応する透過部)が形成されている。本実施形態では、マスク11には、図2に示すように、ドットラインパターンが形成されている。投影光学系12は、マスク11に形成されたパターンの像をワーク5に投影するための光学系である。
このように、第1照明部1は、照明光学系10によって、光源9からの光でマスク11を均一に照明し、投影光学系12によって、マスク11のパターンからの光をワーク5に結像する。本実施形態では、マスク11を用いてパターンをワーク5に投影する方式(固定マスクパターン方式)について説明したが、これに限定されるものではない。例えば、DLP(Digital Light Processing)プロジェクタや液晶プロジェクタを用いてパターンをワーク5に投影してもよい。
濃淡画像計測部について説明する。濃淡画像とは、均一に照明されたワーク5を撮像して得られる画像である。本実施形態では、濃淡画像からワーク5の輪郭や稜線に対応するエッジを検出し、エッジを画像特徴としてワーク5の位置又は姿勢を求める際に用いる。濃淡画像計測部は、第2照明部2、撮像部3及び処理部4によって構成される。第2照明部2は、第1波長とは異なる第2波長の光でワーク5を均一に照明する。撮像部3は、第2照明部2によって均一に照明されたワーク5を撮像して濃淡画像を取得する。処理部4は、撮像部3で撮像された濃淡画像にエッジ検出処理を施してワーク5のエッジを求める。
第2照明部2は、複数の光源13を含み、本実施形態では、リング照明を実現するために、複数の光源13をリング状に配列して構成されている。第2照明部2は、リング照明によって、ワーク5に影が発生しないように、ワーク5を均一に照明する。但し、ワーク5を均一に照明するための照明方式は、リング照明に限定されるものではなく、同軸落射照明やドーム照明などであってもよい。
次いで、計測装置100の主要部である撮像部3について説明する。撮像部3は、第1照明部1からの第1波長の光と第2照明部2からの第2波長の光とで同時に照明されたワーク5を撮像し、距離画像(第1波長の光に対応する第1画像)と濃淡画像(第2波長の光に対応する第2画像)とを同時に取得する。撮像部3は、撮像光学系6と、撮像素子7とを含む。撮像光学系6は、ワーク5に投影されたパターン及びリング照明によって均一に照明されたワーク5を撮像素子7に結像するための光学系である。また、撮像素子7は、互いに隣接する複数の画素が縦横に配列された1つの画素ユニットを有する。撮像素子7は、距離画像及び濃淡画像を撮像するためのイメージセンサであって、例えば、CMOSセンサやCCDセンサなどで構成されている。撮像素子7は、撮像素子7の1つの画素ユニットにより第1波長の光と第2波長の光とで照明された被計測物を撮像する。
本実施形態では、距離画像用の照明光と濃淡画像用の照明光とを互いに異なる波長とし、撮像素子7の1つの画素ユニットの画素のそれぞれでいずれかの波長の光を撮像することで、距離画像及び濃淡画像を1つのセンサ、即ち、1つの画素ユニットで取得する。これにより、2つの独立したセンサ(濃淡画像用センサ及び距離画像用センサ)を必要とする従来技術(複数センサ方式)と比べて、コスト、サイズ及び安定性の点で優れた計測装置を提供することが可能となる。
これを実現するために、本実施形態の計測装置100は、波長選択素子として機能する光学部材8を有する。光学部材8は、ワーク5と撮像素子7との間に配置され、第1照明部1からの第1波長の光と第2照明部2からの第2波長の光とを分離して、撮像素子7の1つの画素ユニットの画素のそれぞれに第1波長の光及び第2波長の光のいずれか一方の光を入射させる。光学部材8は、第1波長の光が入射する画素の数が第2波長の光が入射する画素の数以上となるように、撮像素子7の1つの画素ユニットの画素のそれぞれに第1波長の光及び第2波長の光のいずれか一方の光を入射させる。この際、撮像素子7の1つの画素ユニットの画素のうちの互いに隣接する任意の2×2画素の領域内に第1波長の光が入射する画素及び第2波長の光が入射する画素のそれぞれが少なくとも1つ存在するようにする。なお、撮像素子7の一部の画素について距離画像及び濃淡画像を取得する目的以外の画素を構成してもよく、撮像素子7の全画素に第1波長の光及び第2波長の光のいずれか一方の光を入射させなくてもよい。換言すれば、距離画像及び濃淡画像を取得するために使用しうる有効画素について、第1波長の光及び第2波長の光のいずれか一方の光を入射させるように構成すればよい。
本実施形態では、光学部材8は、撮像素子7の1つの画素ユニットの画素に対応する複数のフィルタが配列された波長分離フィルタで構成されている。また、かかる複数のフィルタは、第1波長の光を透過する第1フィルタと、第2波長の光を透過する第2フィルタとを含んでいる。具体的には、光学部材8として、図3に示すように、青の波長帯の光が入射する画素を3つ、且つ、赤の波長帯の光が入射する画素を1つ含む互いに隣接する2×2画素の領域を周期的に形成するような波長分離フィルタ8Aを用いる。なお、ここでは、第1波長を青の波長帯とし、第2波長を赤の波長帯としている。図3において、Bは、青の波長帯の光を透過する第1フィルタを示し、Rは、赤の波長帯の光を透過する第2フィルタを示している。従って、撮像素子7の1つの画素ユニットの画素には、距離画像用の画素(以下、「青の画素」とも称する)の数を3とし、濃淡画像用の画素(以下、「赤の画素」とも称する)の数を1として構成される2×2画素(基本構造)が周期的に形成される。
撮像素子7の青の画素のみを用いて画像を取得すると、図4に示すように、赤の画素が欠落した距離画像が取得される。このように、撮像素子7の青の画素のみを用いて取得された距離画像は、青の波長帯の光が入射した有効画素(青の画素)と、青の波長帯の光が入射していない欠落画素(赤の画素)とを含む。一方、撮像素子7の赤の画素のみを用いて画像を取得すると、図5に示すように、青の画素が欠落した濃淡画像が取得される。このように、撮像素子7の赤の画素のみを用いて取得された濃淡画像は、赤の波長帯の光が入射した有効画素(赤の画素)と、赤の波長帯の光が入射していない欠落画素(青の画素)とを含む。
そこで、処理部4において、距離画像及び濃淡画像のそれぞれについて、有効画素を用いて欠落画素を補間する。例えば、欠落画素の周囲に存在する有効画素の輝度値を用いて欠落画素の輝度値を補間することで、撮像素子7の全ての画素を用いて画像を取得する場合と同等の解像度を有する距離画像及び濃淡画像を生成することが可能である。
本実施形態では、欠落画素の補間は、図6に示すように、欠落画素の周囲に隣接する8つの画素から有効画素を選択し、かかる有効画素の輝度値の平均値で欠落画素の輝度値を補間することで行われる。具体的には、補間された欠落画素の輝度値をI、選択された有効画素の数をk、選択されたn番目の有効画素の輝度値をI(n=1〜k)とすると、以下の式(1)に基づいて、欠落画素の補間を行う。
Figure 0006478725
このような補間処理を距離画像及び濃淡画像のそれぞれに対して行うことによって、撮像素子7の全ての画素を用いて画像を取得する場合と同等の解像度を有する画像を生成することができる。なお、本実施形態では、欠落画素の周囲に隣接する有効画素の輝度値の平均値で欠落画素の輝度値を補間する場合について説明したが、これに限定されるものではなく、他の補間処理で欠落画素を補間してもよい。
また、本実施形態では、従来技術(複数センサ方式)に対して、距離画像の計測精度の低下を抑えるために、撮像素子7における画素の比率を、距離画像用の画素の数が濃淡画像用の画素の数以上となるようにしている。換言すれば、波長分離フィルタ8Aは、青の波長帯の光が入射する画素の数が赤の波長帯の光が入射する画素の数以上となるように、撮像素子7の1つの画素ユニットの画素のそれぞれに青の波長帯の光及び赤の波長帯の光のいずれか一方の光を入射させている。
図7は、距離画像用の画素(青の画素)と濃淡画像用の画素(赤の画素)との画素数比と、距離画像の計測精度との関係を示す図である。図7では、従来技術(複数センサ方式)での距離画像の計測精度を1とした場合の計測精度の低下率を示している。図7を参照するに、距離画像用の画素の数の減少による距離画像の計測精度の低下率は、距離画像用の画素の数が2以上であれば、1.3倍までと軽微である。但し、距離画像用の画素の数が1である場合には、距離画像の計測精度の低下は、1.8倍となり、約2倍の大幅な計測精度の低下が生じてしまう。従って、距離画像の計測精度の低下を抑えるためには、撮像素子7における画素の比率を、距離画像用の画素の数が濃淡画像用の画素の数以上となるようにすることが重要である。
ここで、距離画像の計測精度を重視する理由について説明する。濃淡画像については、第2照明部2においてリング照明を実現する光源13の数によってワーク5に対する照度を制御することができるため、必要に応じて光源13の数を増加することで濃淡画像の計測精度を向上させることができる。一方、距離画像については、第1照明部1から投影するパターンの被写界深度を確保するために投影光学系12の開口数(NA)が制限されるため、光源9の輝度がワーク5に対する照度を制限することになる。但し、光源9の高輝度化には限界があるため、光源9の輝度が距離画像の計測精度を律速する。従って、従来技術(複数センサ方式)に対して最終的なワーク5の位置又は姿勢の計測精度の低下を抑えるためには、精度律速要因となる距離画像の計測精度の低下を抑えることが重要となる。
また、上述したように、距離画像用の照明光と濃淡画像用の照明光との間には、波長分離を行うために波長差を設けているが、一般的に、光源の輝度は、波長に大きく依存する。従って、光源9の輝度が精度律速要因となる距離画像の計測精度の低下を抑えるためには、距離画像用の光源9の輝度(第1波長の光の輝度)を、濃淡画像用の光源13の輝度(第2波長の光の輝度)よりも高くすることが重要である。具体的には、現時点では、青色が最高輝度を得られる光源であるため、光源9には、青色の光源を用いるとよい。
図8は、図3に示す波長分離フィルタ8Aを用いた場合において、ワーク5に投影されるパターンを構成する複数のラインのそれぞれの撮像素子上でのライン幅と、撮像素子7で取得される距離画像の計測精度の低下率との関係を示す図である。図8を参照するに、ワーク5に投影されるパターンを構成するラインの撮像素子上でのライン幅が細い場合には、撮像素子7で取得される画像の計測精度の低下率が増大する。一般的に、パターン投影法における計測精度は、SNの観点でワーク5に投影されるパターンの像のコントラストに依存する。また、パターンの像のコントラストは、光学的なボケの影響で計測レンジ(光軸方向)の両端で最も低下するため、計測レンジの両端での計測精度が最も低く、装置の計測精度を決定する。従って、計測装置100の計測精度の低下を抑えるためには、計測レンズの両端での精度低下を抑えることが重要となる。
本実施形態では、ワーク5に投影されるパターンを構成する複数のラインのそれぞれを、距離画像の計測精度の低下率が小さくなるライン幅、具体的には、撮像素子上(1つの画素ユニット内)において、2画素以上のライン幅を有するようにしている。特に、計測レンジの両端において(即ち、ワーク5がベストフォーカス位置からデフォーカスしている場合において)、ワーク5に投影されるパターンの各ラインが、撮像素子上において、2画素以上のライン幅を有するようにすることが重要である。
なお、本実施形態では、ワーク5に投影されるパターンの各ラインの撮像素子上でのライン幅は、距離画像の計測精度の低下率が収束する条件から決定している。図8を参照するに、距離画像の計測精度の低下率は、約1.12から約1.145の間で収束しているため、本実施形態では、その閾値を1.145と設定している。そして、かかる閾値を満たす条件から、ワーク5に投影されるパターンの各ラインの撮像素子上でのライン幅を2画素以上としている。
また、ドットなどの微小な画像特徴を消失させないためには、画像特徴を構成する撮像素子上での領域内に少なくとも1つの有効画素を配置する必要がある。但し、画像特徴が撮像素子上で1×1画素のドットである場合、撮像素子7の全ての画素を有効画像しなければならず、1つの撮像素子7で距離画像と濃淡画像とを同時に取得するという本実施形態の計測装置100における基本的な概念に反する。そこで、本実施形態では、画像特徴の最低保証サイズを2×2画素とし、撮像素子7の1つの画素ユニットの画素のうちの互いに隣接する任意の2×2画素の領域内に距離画像用の画素及び濃淡画像用の画素のそれぞれが少なくとも1つ存在するようにしている。これにより、微小な画像特徴を極力消失させないようにすることが可能となる。
本実施形態では、波長選択素子として機能する光学部材8として、図3に示す波長分離フィルタ8Aを用いているが、これに限定されるものではない。上述したように、撮像素子7の1つの画素ユニットの画素において、距離画像用の画素の数が濃淡画像用の画素の数以上で、且つ、任意の2×2画素の領域内に距離画像用の画素と濃淡画像用の画素とがそれぞれ少なくとも1つ存在していればよい。従って、撮像素子7の1つの画素ユニットの画素において、距離画像用の画素(青の波長帯の光が入射する画素)と濃淡画像用の画素(赤の波長帯の光が入射する画素)とが交互に(市松格子状に)存在するように、図9に示す波長分離フィルタ8Bを用いてもよい。図9において、Bは、青の波長帯の光を透過する第1フィルタを示し、Rは、赤の波長帯の光を透過する第2フィルタを示している。
また、本実施形態では、距離画像用の第1波長を青の波長帯とし、濃淡画像用の第2波長を赤の波長帯としているが、ワーク5の位置又は姿勢を高精度に計測するためには、第1波長及び第2波長として選択する波長を配慮する必要がある。図10は、カラーフィルタの分光感度特性の一例を示す図である。図10には、波長分離フィルタ8Aや波長分離フィルタ8Bに適用されるカラーフィルタ、即ち、青の波長帯の光を透過する第1フィルタの分光感度特性、及び、赤の波長帯の光を透過する第2フィルタの分光感度特性を示している。
図10を参照するに、第1フィルタ及び第2フィルタのそれぞれの分光感度は広帯域な特性を有しているため、単一波長の光を考えると、青の画素及び赤の画素のいずれかの画素で検出されるのではなく、それぞれの画素で異なる感度で検出される。従って、距離画像と濃淡画像とを異なる波長の光で取得しても、第1フィルタ及び第2フィルタのそれぞれの分光感度に応じて、双方の画像が混ざり合って取得されることになる。距離画像と濃淡画像とが混在してクロストークが発生すると、パターンをエッジと誤認識したり、エッジをパターンと誤認識したりしてしまうため、計測精度に影響を与えてしまう。ここで、クロストークとは、青の波長帯の光及び赤の波長帯の光のうちの一方の光が入射すべき画素(注目画素)に他方の光が入射することで生じるノイズ(クロストークノイズ)である。
クロストークが計測精度に与える影響を低減するためには、距離画像及び濃淡画像のそれぞれに対してクロストークの比率が小さくなる波長を選択すればよい。例えば、波長分離フィルタ8Aや波長分離フィルタ8Bに適用されるカラーフィルタ(第1フィルタ及び第2フィルタ)が図10に示す分光感度特性を有している場合には、距離画像用の第1波長をλa[nm]とし、濃淡画像用の第2波長をλb[nm]とする。これにより、距離画像及び濃淡画像のそれぞれにおけるノイズ比率が最小となり、クロストークが計測精度に与える影響を最小限に抑えることができる。なお、ここでは、クロストークが計測精度に与える影響を最小限に抑えているが、最終的な計測精度を向上させるためには、クロストークの他に、光量が計測精度に与える影響を加味する必要がある。従って、実際には、クロストークが計測精度に与える影響を抑えながら、光量(分光感度)が最大となるように波長を選択する。
更に、クロストークが計測精度に与える影響を抑えたい場合には、波長分離フィルタ8Aや波長分離フィルタ8Bの分光感度特性に基づいて、注目画素の周囲に位置する隣接画素からクロストークを推定して補正すればよい。換言すれば、処理部4において、距離画像及び濃淡画像のそれぞれについて、注目画素で生じるクロストークを求め、かかるクロストークを用いて注目画素の輝度値を補正することが可能である。この際、処理部4は、注目画素の周囲に位置する隣接画素の輝度値と、波長分離フィルタ8Aや波長分離フィルタ8Bの分光感度特性とに基づいて、注目画素で生じるクロストークを求めることができる。
距離画像におけるクロストークの補正について具体的に説明する。図3に示す波長分離フィルタ8Aを用いた場合、距離画像用の青の画素のうちの1つの注目画素を中心として3×3画素を抽出すると、距離画像用の青の画素と濃淡画像用の赤の画素との位置関係は、図11に示すように、3通りである。図11を参照するに、注目画素である青の画素に隣接する赤の画素の数は、2つ又は4つである。注目画素である青の画素において、濃淡画像用の赤の波長帯の光の影響を除去するためには、かかる青の画素に隣接する2つ又は4つの赤の画素の輝度値の平均値を求めて、図10に示す分光感度特性に基づいて補正する。具体的には、クロストークを補正する前の青の画素の輝度値をI、隣接する赤の画素の輝度値の平均値をIra、クロストークを補正した後の青の画素の輝度値をI’とする。また、濃淡画像用の赤の波長帯をλ、波長λにおける青の画素の透過率をT(λ)、波長λにおける赤の画素の透過率をT(λ)とする。この場合、以下の式(2)に基づいて、クロストークの補正を行う。
Figure 0006478725
濃淡画像におけるクロストークの補正について具体的に説明する。図3に示す波長分離フィルタ8Aを用いた場合、濃淡画像用の赤の画素のうちの1つの注目画素を中心として3×3画素を抽出すると、濃淡画像用の赤の画素と距離画像用の青の画素との位置関係は、図12に示すように、1通りである。図11を参照するに、注目画素である赤の画素に隣接する青の画素の数は、8つである。注目画素である赤の画素において、距離画像用の青の波長帯の光の影響を除去するためには、かかる赤の画素に隣接する8つの青の画素の輝度値の平均値を求めて、図10に示す分光感度特性に基づいて補正する。具体的には、クロストークを補正する前の赤の画素の輝度値をI、隣接する青の画素の輝度値の平均値をIba、クロストークを補正した後の赤の画素の輝度値をI’、距離画像用の青の波長帯をλとする。この場合、以下の式(3)に基づいて、クロストークの補正を行う。
Figure 0006478725
このように、本実施形態の計測装置100では、距離画像と濃淡画像とを波長差で分離して1つの撮像素子7で同時に取得することが可能となり、従来技術(複数センサ方式)と比べて、コスト、サイズ及び安定性の点で有利である。また、本実施形態の計測装置100では、距離画像用の画素の数を濃淡画像用の画素の数以上としている。これにより、計測装置100は、精度律速要因である距離画像の計測精度の低下を抑え、従来技術と比べて、コスト、サイズ及び安定性に対する優位性を有しながら、最終的なワーク5の一姿勢の計測精度の低下を抑えることができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。
100:計測装置 1:第1照明部 2:第2照明部 3:撮像部 4:処理部 5:ワーク 7:撮像素子 8:光学部材

Claims (15)

  1. 被計測物の位置又は姿勢を計測する計測装置であって、
    パターンを有する第1波長の光で前記被計測物を照明する第1照明部と、
    前記第1波長とは異なる第2波長の光で前記被計測物を照明する第2照明部と、
    互いに隣接する複数の画素が縦横に配列された1つの画素ユニットを有し、前記1つの画素ユニットにより前記第1波長の光と前記第2波長の光とで照明された前記被計測物を撮像し、前記1つの画素ユニットにより前記第1波長の光に対応する第1画像と前記第2波長の光に対応する第2画像とを取得する撮像素子と、
    前記被計測物と前記撮像素子との間に配置され、前記第1波長の光と前記第2波長の光とを分離して、前記第1波長の光が入射する画素の数が前記第2波長の光が入射する画素の数以上となるように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させる光学部材と、
    前記第1画像と前記第2画像とに基づいて、前記被計測物の位置又は姿勢の情報を求める処理部と、
    を有することを特徴とする計測装置。
  2. 前記光学部材は、前記1つの画素ユニットの互いに隣接する任意の2×2画素の領域内に前記第1波長の光が入射する画素及び前記第2波長の光が入射する画素のそれぞれが少なくとも1つ存在するように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させることを特徴とする請求項1に記載の計測装置。
  3. 前記光学部材は、前記1つの画素ユニットの画素に対応する複数のフィルタが配列された波長分離フィルタを含み、
    前記複数のフィルタは、前記第1波長の光を透過する第1フィルタと、前記第2波長の光を透過する第2フィルタとを含むことを特徴とする請求項1又は2に記載の計測装置。
  4. 前記第1波長の光の輝度は、前記第2波長の光の輝度よりも高いことを特徴とする請求項1乃至のうちいずれか1項に記載の計測装置。
  5. 前記パターンは、複数のラインで構成され、
    前記複数のラインのそれぞれは、前記1つの画素ユニット内で2画素以上のライン幅を有することを特徴とする請求項1乃至のうちいずれか1項に記載の計測装置。
  6. 前記被計測物がベストフォーカス位置からデフォーカスしている場合において、前記複数のラインのそれぞれは、前記1つの画素ユニット内で2画素以上のライン幅を有することを特徴とする請求項に記載の計測装置。
  7. 前記光学部材は、前記1つの画素ユニット内において、前記第1波長の光が入射する画素を3つ、且つ、前記第2波長の光が入射する画素を1つ含む互いに隣接する2×2画素の領域が周期的に形成されるように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させることを特徴とする請求項1乃至のうちいずれか1項に記載の計測装置。
  8. 前記光学部材は、前記1つの画素ユニット内において、前記第1波長の光が入射する画素と前記第2波長の光が入射する画素とが交互に存在するように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させることを特徴とする請求項1乃至のうちいずれか1項に記載の計測装置。
  9. 前記第1画像は、前記第1波長の光が入射した有効画素と、前記第1波長の光が入射していない欠落画素とを含み、
    前記第2画像は、前記第2波長の光が入射した有効画素と、前記第2波長の光が入射していない欠落画素とを含み、
    前記処理部は、前記第1画像及び前記第2画像のそれぞれについて、前記有効画素を用いて前記欠落画素を補間することを特徴とする請求項1乃至のうちいずれか1項に記載の計測装置。
  10. 前記処理部は、前記第1画像及び前記第2画像のそれぞれについて、前記欠落画素の周囲に存在する複数の前記有効画素の輝度値の平均値で当該欠落画素を補間することを特徴とする請求項に記載の計測装置。
  11. 前記処理部は、前記第1画像及び前記第2画像のそれぞれについて、前記第1波長の光及び前記第2波長の光のうちの一方の光が入射すべき注目画素に他方の光が入射することで生じるノイズを求め、当該ノイズを用いて前記注目画素の輝度値を補正することを特徴とする請求項1乃至10のうちいずれか1項に記載の計測装置。
  12. 前記処理部は、前記注目画素の周囲に位置する画素の輝度値と、前記光学部材の分光感度特性とに基づいて、前記ノイズを求めることを特徴とする請求項11に記載の計測装置。
  13. 被計測物の位置又は姿勢を計測する計測装置であって、
    パターンを有する第1波長の光で前記被計測物を照明する第1照明部と、
    前記第1波長とは異なる第2波長の光で前記被計測物を照明する第2照明部と、
    互いに隣接する複数の画素が縦横に配列された1つの画素ユニットを有し、前記1つの画素ユニットにより前記第1波長の光と前記第2波長の光とで照明された前記被計測物を撮像し、前記1つの画素ユニットにより前記第1波長の光に対応する第1画像と前記第2波長の光に対応する第2画像とを取得する撮像素子と、
    前記被計測物と前記撮像素子との間に配置され、前記第1波長の光と前記第2波長の光とを分離して、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させる光学部材と、
    前記第1画像と前記第2画像とに基づいて、前記被計測物の位置又は姿勢の情報を求める処理部と、
    を有し、
    前記第1波長の光の輝度は、前記第2波長の光の輝度よりも高いことを特徴とする計測装置。
  14. 被計測物の位置又は姿勢を計測する計測装置であって、
    パターンを有する第1波長の光で前記被計測物を照明する第1照明部と、
    前記第1波長とは異なる第2波長の光で前記被計測物を照明する第2照明部と、
    互いに隣接する複数の画素が縦横に配列された1つの画素ユニットを有し、前記1つの画素ユニットにより前記第1波長の光と前記第2波長の光とで照明された前記被計測物を撮像し、前記1つの画素ユニットにより前記第1波長の光に対応する第1画像と前記第2波長の光に対応する第2画像とを取得する撮像素子と、
    前記被計測物と前記撮像素子との間に配置され、前記第1波長の光と前記第2波長の光とを分離して、前記1つの画素ユニット内において、前記第1波長の光が入射する画素を3つ、且つ、前記第2波長の光が入射する画素を1つ含む互いに隣接する2×2画素の領域が周期的に形成されるように、前記1つの画素ユニットの画素のそれぞれに前記第1波長の光及び前記第2波長の光のいずれか一方の光を入射させる光学部材と、
    前記第1画像と前記第2画像とに基づいて、前記被計測物の位置又は姿勢の情報を求める処理部と、
    を有することを特徴とする計測装置。
  15. ワークの位置又は姿勢を計測する、請求項1乃至14のうちいずれか1項に記載の計測装置と、
    ハンドを含み、前記計測装置の計測結果に基づいて前記ハンドで前記ワークを把持する把持部と、
    を有することを特徴とするロボット。
JP2015046345A 2015-03-09 2015-03-09 計測装置及びロボット Expired - Fee Related JP6478725B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015046345A JP6478725B2 (ja) 2015-03-09 2015-03-09 計測装置及びロボット
US15/057,561 US10018722B2 (en) 2015-03-09 2016-03-01 Measurement apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015046345A JP6478725B2 (ja) 2015-03-09 2015-03-09 計測装置及びロボット

Publications (2)

Publication Number Publication Date
JP2016166784A JP2016166784A (ja) 2016-09-15
JP6478725B2 true JP6478725B2 (ja) 2019-03-06

Family

ID=56887669

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015046345A Expired - Fee Related JP6478725B2 (ja) 2015-03-09 2015-03-09 計測装置及びロボット

Country Status (2)

Country Link
US (1) US10018722B2 (ja)
JP (1) JP6478725B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3159711A1 (en) 2015-10-23 2017-04-26 Xenomatix NV System and method for determining a distance to an object
EP3301478A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301480A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System and method for determining a distance to an object
EP3301477A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301479A1 (en) 2016-10-03 2018-04-04 Xenomatix NV Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
JP6702171B2 (ja) * 2016-12-22 2020-05-27 カシオ計算機株式会社 投影制御装置、投影制御方法及びプログラム
EP3343246A1 (en) * 2016-12-30 2018-07-04 Xenomatix NV System for characterizing surroundings of a vehicle
EP3392674A1 (en) 2017-04-23 2018-10-24 Xenomatix NV A pixel structure
US10726569B2 (en) * 2017-05-16 2020-07-28 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
CN111465871A (zh) 2017-12-15 2020-07-28 齐诺马蒂赛股份有限公司 用于确定到对象的距离的***和方法
WO2020087015A1 (en) * 2018-10-26 2020-04-30 The Regents Of The University Of Michigan Phase detection and correction using image-based processing
US10931894B2 (en) 2018-10-31 2021-02-23 Microsoft Technology Licensing, Llc Tunable spectral illuminator for camera
US10982836B2 (en) * 2018-10-31 2021-04-20 Microsoft Technology Licensing, Llc Tunable spectral illuminator for camera
EP3896967A1 (en) * 2020-04-17 2021-10-20 Leica Microsystems CMS GmbH Digital imaging device and method for generating a digital color image

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11341347A (ja) * 1998-05-11 1999-12-10 Newcore Technol Inc 信号変換処理装置
IT1303239B1 (it) * 1998-08-07 2000-11-02 Brown & Sharpe Dea Spa Dispositivo e metodo per il posizionamento di una testa di misura inuna macchina per la misura tridimensionale senza contatto.
JP3519698B2 (ja) * 2001-04-20 2004-04-19 照明 與語 3次元形状測定方法
JP3668466B2 (ja) * 2002-05-10 2005-07-06 松下電器産業株式会社 実時間レンジファインダ
JP3868860B2 (ja) * 2002-07-02 2007-01-17 シーケーディ株式会社 三次元計測装置
JP2006162386A (ja) * 2004-12-06 2006-06-22 Canon Inc 3次元モデル生成装置、3次元モデル生成システム及び3次元モデル生成プログラム
JP5122729B2 (ja) 2005-04-26 2013-01-16 照明 與語 3次元形状測定方法
JP2007183175A (ja) * 2006-01-06 2007-07-19 Sharp Corp 部材位置合わせ装置
JP5201825B2 (ja) * 2006-12-13 2013-06-05 富士フイルム株式会社 距離画像取得装置及び方法
US8659698B2 (en) * 2007-05-17 2014-02-25 Ilya Blayvas Compact 3D scanner with fixed pattern projector and dual band image sensor
JP2009031150A (ja) * 2007-07-27 2009-02-12 Omron Corp 三次元形状計測装置、三次元形状計測方法、三次元形状計測プログラム、および記録媒体
JP5163068B2 (ja) * 2007-11-16 2013-03-13 株式会社ニコン 撮像装置
JP5393318B2 (ja) 2009-07-28 2014-01-22 キヤノン株式会社 位置姿勢計測方法及び装置
JP2011137697A (ja) * 2009-12-28 2011-07-14 Canon Inc 照明装置及び該照明装置を用いた計測システム
JP2012215394A (ja) * 2011-03-31 2012-11-08 Dainippon Screen Mfg Co Ltd 三次元計測装置および三次元計測方法
JP2013210254A (ja) * 2012-03-30 2013-10-10 Canon Inc 三次元計測装置、三次元計測方法及び三次元計測プログラム
JP2016170122A (ja) * 2015-03-13 2016-09-23 キヤノン株式会社 計測装置
JP6371742B2 (ja) * 2015-09-03 2018-08-08 キヤノン株式会社 計測装置および取得方法

Also Published As

Publication number Publication date
JP2016166784A (ja) 2016-09-15
US10018722B2 (en) 2018-07-10
US20160266255A1 (en) 2016-09-15

Similar Documents

Publication Publication Date Title
JP6478725B2 (ja) 計測装置及びロボット
JP6484072B2 (ja) 物体検出装置
US9518931B2 (en) Image inspection apparatus, image inspection method, image inspection program, computer-readable recording medium and recording device
JP2016170122A (ja) 計測装置
JP5576726B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
CN107533753A (zh) 图像处理装置
EP3686550A1 (en) Three-dimensional shape measuring apparatus
US10223575B2 (en) Measurement apparatus for measuring shape of object, system and method for producing article
JP2016161351A (ja) 計測装置
JP2017126883A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2019168862A (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体
JP2009025189A (ja) 計測器
US20160063307A1 (en) Image acquisition device and control method therefor
JP6714393B2 (ja) 計測装置、システム、計測方法、および物品の製造方法
JP2017173259A (ja) 計測装置、システム及び物品の製造方法
JP6371742B2 (ja) 計測装置および取得方法
WO2019202984A1 (ja) 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体
JP2010117182A (ja) 形状計測装置及び欠陥検査方法
JP5968370B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP6611872B2 (ja) 計測装置
WO2022186074A1 (ja) 計測装置、記憶媒体、製造システム、及び物品の製造方法
JP7380146B2 (ja) 情報取得装置
JP6448324B2 (ja) 画像処理装置、撮像装置、画像処理システム、画像処理方法、および画像処理プログラム
JP5981353B2 (ja) 3次元計測装置
WO2024111325A1 (ja) 距離測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190205

R151 Written notification of patent or utility model registration

Ref document number: 6478725

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees