JP2018055679A - 3dアライメントアルゴリズムのためのバランスの取れたプローブサイトの選択 - Google Patents
3dアライメントアルゴリズムのためのバランスの取れたプローブサイトの選択 Download PDFInfo
- Publication number
- JP2018055679A JP2018055679A JP2017152076A JP2017152076A JP2018055679A JP 2018055679 A JP2018055679 A JP 2018055679A JP 2017152076 A JP2017152076 A JP 2017152076A JP 2017152076 A JP2017152076 A JP 2017152076A JP 2018055679 A JP2018055679 A JP 2018055679A
- Authority
- JP
- Japan
- Prior art keywords
- feature points
- probe
- points
- module
- placement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/77—Determining position or orientation of objects or cameras using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/469—Contour-based spatial representations, e.g. vector-coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/758—Involving statistics of pixels or of feature values, e.g. histogram matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Geometry (AREA)
- Medical Informatics (AREA)
- Mathematical Optimization (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Pure & Applied Mathematics (AREA)
- Algebra (AREA)
- Operations Research (AREA)
- Computer Graphics (AREA)
- Image Analysis (AREA)
Abstract
Description
式中、iはi番目の特徴点を示す。この最適化ルーチンの目的は、(1)特徴点で測定された勾配ベクトルのx成分の重み付けされた合計と、(2)特徴点で測定された勾配ベクトルのy成分の重み付けされた合計とに等しい関数f(x,y)を特定することである。場合によっては、TDCモジュール412は勾配ベクトルの大きさのみのバランスを取ることができる。それゆえ、xiはi番目の特徴点において測定された勾配ベクトルのx成分の絶対値を指すことができ、yiはi番目の特徴点において測定された勾配ベクトルのy成分の絶対値を指すことができる。
式中、pは基準点(任意に選択されてよい)に対する基準ベクトル、uは特定の特徴点における単位法線ベクトル、Xは外積行列である。図11は、幾つかの実施形態による、基準ベクトルpと単位法線ベクトルuとの関係を示す。
式中、下付文字x及びyは、対応するベクトルのx成分及びy成分を示す。
この回転変数θiの表示は、大きい角度ステップサイズωで形状を粗くアライメントするのに有用であることがある。
原点から更に離れた特徴点の寄与を強調することができる。例えばTDCモジュール412はi番目の特徴点の回転変数θiを次の通り決定することができる。
位置ベクトルviのノルムに依存する回転変数θiは、原点から更に離れた位置にプローブを配置するのに有利になる目標分布を提供することができる。このようにして、目標分布により原点から更に離れた特徴点でより多くのプローブをサンプリングすることができる。
式中、iはi番目の特徴点を示す。
GMMは4つのパラメータ、即ちガウス分布の数N、k番目のガウス分布の加重値αk、
他の実施形態では、混合モデルは三角分布の混合を含むことができる。三角分布の混合はより速く計算することができ、特徴点の柔軟なグルーピングを提供するという同様に望ましい特性を与えることができる。
は、特徴点に与えられるパラメータの尤度を最大化することによって決定することができる。幾つかの実施形態では、FDCモジュール414は期待値最大化技術を用いて、特徴点に与えられたパラメータの尤度を最大化することができる。期待値最大化を実行するために、FDCモジュール414はクラスタリングステップの結果を使用して、
を初期化することができる。
を逆にして目標分布f(x,y,θ)を決定することができる。前述の「第1のプローブ配置機構」において、この変形は平滑化カーネルをpp(x,y,θ)に適用する形態を取る。
TDCモジュール412は特徴点の柔軟なグルーピング(例えばガウス分布への柔軟なグルーピング)を効果的に実行した。現在TDCモジュール412はそれらのグルーピングを有しており、
各グループ(例えば各ガウス分布)を個別に再重み付けするように構成され得る。
について解くことができるが、TDCモジュール412は追加的な制約を受ける。上記の連立線形方程式は変形された加重値
が負になることを妨げないか、又は大きい加重値
が特徴点の小さいグループ(例えば特徴点分布pp(x,y,θ)におけるその元の加重値αkが小さかった)から推定されたガウスに割り当てられることを妨げない。TDCモジュール412は、それらの制約をプログラムによって適用することができる。
を規定の値より大きくなるように要求することによって、隣接するプローブ間の最小プローブ距離を課すように構成される。
式中、αkは特徴点分布pp(x,y,θ)におけるk番目のガウス分布の加重値、Nedgesは特徴点分布pp(x,y,θ)における加重値αkを推定するために使用される特徴点の数、Nprobesはプローブの目標数(例えば64)、dmaxは特徴点の単位又は任意の所定の単位におけるプローブ間の最大の許容可能な距離である。上述の方程式は次の通り再整理することができる。
この新しい関係は、混合要素kについてプローブの数に対するエッジの数の比がdmax単位と1単位によって限定されていることを示す。それゆえクラスタkにおける隣接するプローブは、dmax単位からそれ以上離れることなく、また1単位より近づくことなく配置することができる。
を決定することができる。境界条件の各セットは、変形された加重値
のサブセットに対する境界条件を含むことがある。次いで、境界条件の各セットについて、TDCモジュール412は、加重値
のサブセットの値を対応する境界条件の値に固定し、境界条件のない残りの自由な加重値
について連立線形方程式を解くことができる。このようにして、TDCモジュール412はすべての可能な境界条件のセットの下での解の中から最小スコアの解を選択することによって、制約が与えられた連立線形方程式の大域解を決定することができる。
新しいラグランジュの公式は、平均ベクトルの(x,y,θ)成分のバランスが取られており、変形された加重値の合計が1であるという制約条件の下で、
の変化を数値化することを求める。
が負になることを妨げず、又は大きい加重値
が特徴点の小さいグループ(例えば特徴点分布pp(x,y, θ)における元の加重値αkが小さかった)から推定されたガウスに割り当てられることを妨げない。TDCモジュール412は上述したように、これらの制約をプログラムによって適用することができる。これは数学的に有効であるが、その理由は
における上記のラグランジュの関係が二次式であり、加重値
の1つが負である場合、最適値は1つ(以上)の境界条件にあることになるからである。
パラメータを特定するために、TDCモジュール412は以下の手順を使用することができる。
この系が特異である場合、TDCモジュール412は正則化を用いてこの系を解くことができる。例えばTDCモジュール412が
このようにして、TDCモジュール412は解ベクトルのL2ノルムの合計を最小化することができ、ひいては大きい正及び負のαk(合計して単一性になる)を有する解を妨げることができる。
4.ステップ2又はステップ3の解を次の制約と照合する。
5.解が加重値
の有効範囲外にある場合、すべての可能な境界条件(例えば制約)のセットについて、ステップ2又は3の修正版を使用して制約されていない
に対する解ベクトルを見出す。TDCモジュール412は検索を通して、次式の最小値を追跡することができる。
前者の関係がゼロより大きい場合、TDCモジュール412は前者の関係を用いて
に対する解ベクトルを選択することができる。前者の関係がゼロより大きくない場合、TDCモジュール412は、後者の関係を用いて
に対する解ベクトルを選択することができる。
を決定すると、TDCモジュール412は変形された特徴点分布
(又は変形された特徴点分布の逆数)をPDMモジュール416に提供することができる。次いで、PDMモジュール416は変形された特徴点分布
の逆数からサンプリングして、画像内の1個以上の特徴点のプローブの位置を決定することができる。
となり、式中、Sprobesはプローブのセット、SIPは特徴点のセットである。それゆえPDMモジュール416は、この関係を用いて次式により特徴点分布
から抽出されたサンプルの重み付けをすることができる。
によってプローブの重み付けをすることができる。幾つかの実施形態では、PDMモジュール416は、(1)隣接するプローブをパターンの境界に沿って上記の比の逆数の距離だけ離間させること、及び(2)プローブの所望の数及び最初のエッジの数を補償することによって同様の効果を達成することができる。
の逆数からサンプリングすることは、隣接するプローブを以下の量だけ離間させるように要求することと同等であることができる。
式中、Nedgesは、特徴点分布
のパラメータを決定するために使用される特徴点の数を示し、Nprobesは、プローブの目標数を示す。このようにして、不十分に表示される特徴点に沿うプローブの密度を増加させることができる。
を決定するのに使用される複数の特徴点のすべてを考慮するまで繰り返すことができる。
式中、φはスケールを表わす。最適化ステップはこれよりわずかに複雑になることがあるが、プローブ配置モジュール408 は3次元空間のシナリオと同じ技術を利用することができる。例えばプローブ配置モジュール408 は、(上述したように)ラグランジュ乗数を用いて連立線形方程式に減少させることによって、次の通り最小化するように構成され得る。
プローブ配置モジュール408 は、加重値
が負にならないようにするか、プローブを幾つかのエッジの位置に極度に集中させないようにすることを確実にするように構成され得る。このためにプローブ配置モジュール408 は、3次元空間のシナリオと同様に、境界制約をプログラムによって適用するように構成され得る。
を決定することができる。FDCモジュール414は、特徴点分布
をTDCモジュール412に提供することができる。
から、変形された特徴点分布
を決定することができる。このためにTDCモジュール412は、上述のように条件付き最適化を実行して、変形された特徴点分布に対する変形された加重値
を再計算することができる。場合によっては、TDCモジュール412は、変形された特徴点分布
を逆にすることによって目標プローブ分布を計算することができる。次いで、TDCモジュール412は変形された特徴点分布(又は、変形された特徴点分布の逆数)をPDMモジュール416に提供することができる。
PDMモジュール416は、上記の関係を用いてすべての隣接する特徴点の中心間(又は、隣接する特徴点のサブセットの中心間)の距離を決定するか、変更することができる。
この場合、PDMモジュール416は、図14Aに示すように、矩形の長いエッジに比べ、矩形の短いエッジに沿うプローブの密度を増加させた。しかしながら、PDMモジュール416は長いエッジに沿うプローブの距離も変更し、矩形の原点(例えば矩形の質量中心)からより離れたプローブの数を増加させた。その理由は、回転変数θが、矩形の原点とプローブの間の距離に依存していたためである。
とは独立している場合のプローブの配置に対応する。図17Bは、回転変数θが次式のように、位置ベクトル||vi||のノルムに依存している場合のプローブの配置に対応する。
この式は線形形態の半径を組み込んで、角運動量と見なすことができる量をモデル化する。図17Cは、回転変数θが次式のように、位置ベクトル||vi||のノルムに依存している場合のプローブの配置に対応する。
この式の2乗を用いて慣性の角運動量と同質の量を形成する。用途に応じて、これらの関数の1つがより好ましくなり得る。半径の項の順で増加させることにより、角度成分が最も高いプローブをパターンの最も外側の領域に押しやる傾向になる。このことは、画像内にパターンを探す際にプローブを全体に適用するスペースを選ぶときに密接に関連する。これは角度アライメント精度にも密接に関連する。
この場合、正則化されていない最適化は、加重値が大きい値
になることがあるが合計すると1となり得る解を提供することができる。このような特異点に対処するために、TDCモジュール412は最適化の問題を調整することができる。
マッピングパラメータについて可解な 2つの連立方程式がある。点のセットに対する単位正方形からマッピングが得られたら、逆 マッピングを計算して単位正方形内にマッピングされたピクセルグリッド 中心の位置を見出す。逆マッピングは非線形であり、まず、次の通り定義:
であるように、(x,y,z)と表示される最初のデカルト座標を回転させたものである。この例では、FDC 414は平均センタリングを使用するように構成されてはならない。なぜなら、分解能の最大分散の方向で軸を選び出す必要はないであろうからである。むしろ、幾つかの実施形態では、最大分解能及び最小分解能の方向で軸をアライメントすることが望ましいことがある(例えば後でバランスの取れたプローブのセットを選択するため)。 言い換えれば、この例ではFDC 414 は、第1 軸がオブジェクトに対する最大 分解能の方向(主方向)に向けられる座標系の回転を見出すように構成され得る。定義により、他の2 軸の内の1つは最小分解能の方向にあり、従ってプローブ配置モジュール408は後で、この方向 での全体分解能を増加させる(例えば主方向における分解を犠牲にして)傾向のあるプローブ サイトを選択できるようになる。幾つかの他の実施形態では、このプロセスは 平均センタリングを使用しても実行できる。
上述した2Dの例との一貫性を保つために、xi は x 方向でオブジェクトを分解する能力への点の寄与の測定値と見なすことができ、yiはy 方向の測定値、及びziはz 方向の測定値である。
式中、iはi番目の特徴点を示す。この最適化ルーチンの目的は、(1)特徴点で測定された特徴ベクトルのx成分の重み付けされた合計と、(2)特徴点で測定された特徴ベクトルのy成分の重み付けされた合計と、(3特徴点で測定された特徴 ベクトルのz成分の重み付けされた合計とに等しい関数f(x,y,z)を特定することである。
[ni×(pi−c)]
次に、回転の中心を見出すために、技術は次の通り最小化できる。
前式 は 次の通り書き直すことができる。
ここで、回転の中心 cにより、a =bt+cによって与えられる回転軸周りの法線ベクトルのモーメントは、次式によって与えられる。
b.[ni×(pi−c)]
それゆえ回転の軸は、次式によって与えられる対称行列のゼロ空間を見出すことによって見出すことができる。
式中、aiは提案された 主回転軸(図26に示されている)上にある。内部にある点のセットが得られたら、新しい 回転の中心及び回転軸のセット が 生成及び使用されてモデルの適合を 測定できる。モデルの適合 は、すべての候補と内部にある点に対する上記の正規化されたドット積を合計することによって計算できる。
によってパラメータ化される)、TDCモジュール412 は、原点からi番目の特徴点の中心までのベクトルである、i番目の特徴点の位置ベクトルpiと、以前計算された 分解能 ベクトルui 0、ui 1及びui 2を使用して、回転変数θp、θr及びθyを次の通り決定することができる。
であるため、TDCモジュール412は、角度精度を上げるために、原点から更に離れた特徴点の寄与を強調することができる。例えばTDCモジュール412はi番目の特徴点の回転変数θp iを次の通り決定することができる。
位置ベクトルviのノルムに依存する回転変数θp iは、回転の軸から更に離れた位置にプローブを配置するのに有利になるような目標分布を提供することができる。このようにして、目標分布により回転の中心から更に離れた特徴点でより多くのプローブをサンプリングすることができる。
式中、iはi番目の特徴点を示す。これは並進自由度と回転 自由度の両方で部品を分解する能力のバランスを一緒に取る効果を有することができる。
それら以外の場合はロールを使用する最小の分解情報を有することが見出された回転自由度での分解能を最大化することで並進自由度での分解能力のバランスを一緒に取る重み付け関数f(x,y,z,θp,θr,θy)を見出すことによって、特徴点の表示に基づいて目標分布を決定するように構成され得る。このことは、例えば 1つの回転変数が小さいために、他の2つの回転関数の寄与を最小化することによって3つの回転変数の間の不一致を低減する前述した最適化を引き起こすという 条件下で有利であり得る。これはほとんどのプローブを回転の中心近くに配置する望ましくない効果を有することがある。
さらに、パラメータwS とwR は、並進成分間の差の最小化と、最小の回転成分の最大化との間の最適化における相対的 バイアスを規定する。
によって、目標分布はすべての特徴点で正であることが強制され得る。目標分布f(x,y,z,θp,θr,θy)が線形形態を有する場合、目標分布を見出すための最適化ルーチンは線形形態を使用するように構成され得る。しかしながら線形関数のスペースは限られるため、すべての制約を満足する線形関数を見出すことは困難になることがある。
GMMは4つのパラメータ、即ちガウス分布の数N、k番目のガウス分布の加重値αk、k番目のガウス分布の平均ベクトル
、及びk番目のガウス分布の共分散行列
を有する。他の実施形態では、混合モデルは三角分布の混合を含むことができる。幾つかの実施形態では、三角分布の混合はより速く計算することができ、特徴点の柔軟なグルーピングを提供するという同様に望ましい特性を与えることができる。
は、特徴点に与えられるパラメータの尤度を最大化することによって決定することができる。幾つかの実施形態では、FDCモジュール414は期待値最大化技術を用いて、特徴点に与えられたパラメータの尤度を最大化することができる。期待値最大化を実行するために、FDCモジュール414はクラスタリングステップの結果を使用して、パラメータのセット
を初期化することができる。
を見出すことによって特徴点分布
を変形することができる。パラメータのセット
を推定する際に、TDCモジュール412は特徴点の柔軟なグルーピング(例えばガウス分布への柔軟なグルーピング)を実行できる。TDCモジュール412がこれらのグルーピングを実行したら、TDCモジュール412は新しい加重値
を見出して各グループ(例えば各ガウス分布)を個別に再重み付けするように構成され得る。
に関する最小化を解くことができよう。例えば、上述した技術は変形された加重値
が負になることを妨げないか、又は大きい加重値
が特徴点の小さいグループ(例えば特徴点分布pp(x,y,z,θp,θr,θy)におけるその元の加重値αkが小さかった)から推定されたガウスに割り当てられることを妨げない。TDCモジュール412は、これら及び/又は他の制約をプログラムによって適用することができる。
式中、Climは制限係数を与える定数である。
を決定することができる。境界条件の各セットは、変形された加重値
のサブセットに対する境界条件を含むことがある。次いで、境界条件の各セットについて、TDCモジュール412は、加重値
のサブセットの値を対応する境界条件の値に固定し、境界条件のない残りの自由な加重値
について連立線形方程式を解くことができる。このようにして、TDCモジュール412はすべての可能な境界条件のセットの下での解の中から最小スコアの解を選択することによって、制約が与えられた連立線形方程式の大域解を決定することができる。
この新しいラグランジュの公式は、解が並進自由度で完全にバランスが取られており、変形された加重値の合計が1であるという制約条件の下で、最小の適合した分解能を有する回転自由度での分解能を最大化することを求める。
が負になることを妨げず、又は大きい加重値
が特徴点の小さいグループ(例えば特徴点分布pp(x,y,z,θp,θr,θy)における元の加重値αkが小さかった)から推定されたガウスに割り当てられることを妨げないことがある。TDCモジュール412は上述したように、これらの制約をプログラムによって適用することができる。これは数学的に有効であるが、その理由は
における上記のラグランジュの関係が二次式であり、加重値
の1つが負である場合、最適値は1つ(以上)の境界条件にあることになるからである。
のパラメータを特定するために、TDCモジュール412は以下の手順を使用することができる。
1.ラグランジュを微分することによって形成されるゼロに等しい線型方程式系を解く。
2.この系が特異である場合、TDCモジュール412は正則化を用いてこの系を解くことができる。例えばTDCモジュール412は行列方程式
を解くことができる。このようにして、TDCモジュール412は解ベクトルのL2ノルムの合計を最小化することができ、ひいては大きい正及び負のαk(合計して単一性になる)を有する解を妨げることができる。
3. ステップ2に失敗した場合は、代替ラグランジュを微分することによって形成されるゼロに等しい線型方程式系を解く。
4.ステップ2又はステップ3の解を次の制約と照合する。
5.解が加重値
の有効範囲外にある場合、すべての可能な境界条件(例えば制約)のセットについて、ステップ2又は3の修正版を使用して制約されていない
に対する解ベクトルを見出す。TDCモジュール412は検索を通して、次式の最小値を追跡することができる。
前者の関係がゼロより大きい場合、TDCモジュール412は前者の関係を用いて
に対する解ベクトルを選択することができる。前者の関係がゼロより大きくない場合、TDCモジュール412は、後者の関係を用いて
に対する解ベクトルを選択することができる。
を決定すると、TDCモジュール412は変形された特徴点分布
(又は変形された特徴点分布の逆数)をPDMモジュール416に提供することができる。次いで、PDMモジュール416は変形された特徴点分布
の逆数からサンプリングして、画像内の1個以上の特徴点のプローブの位置を決定することができる。
式中、Sprobesはプローブのセット、SIPは特徴点のセットである。それゆえPDMモジュール416は、この関係を用いて次式により特徴点分布
から抽出されたサンプルの重み付けをすることができる。
Claims (37)
- 3D実行時画像内のトレーニングされた3Dモデル画像のポーズを推定するための3Dアライメントシステムの内部で、実行時3D画像の3Dアライメントポーズを評価するために使用される3次元(3D)プローブの配置を選択するためのシステムであって、
メモリと通信するプロセッサを有しており、このプロセッサはメモリに保存されたコンピュータプログラムを実行するように構成されており、このコンピュータプログラムは、
3D画像から第1の複数の特徴点と関連付けられる複数の特徴を生成し、各々の前記特徴は複数の特徴点から関連付けられる点の3D特性を示すデータを含んでおり、
少なくとも一部は第1の複数の特徴点と関連付けられる複数の特徴に基づいて第1の複数の特徴点の中から第2の複数の特徴点を選択し、及び
少なくとも一部は第2の複数の特徴点に基づいて複数の3Dプローブの配置を決定するように構成されている、
システム。 - 少なくとも1並進自由度でのアライメントのために、複数の特徴の各々が第1の複数の点の中から関連付けられる点の少なくとも1つの有用性の測定値を包含する、請求項1に記載のシステム。
- 少なくとも1回転自由度でのアライメントのために、複数の特徴の各々が第1の複数の点の中から関連付けられる点の少なくとも1つの有用性の測定値を包含する、請求項1に記載のシステム。
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3並進自由度での集合アライメント能力を提供する、請求項1に記載のシステム。
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3並進自由度での集合アライメントを提供し、このより大きい集合アライメント能力は、第1の複数の点の最も小さく表された回転自由度での集合アライメント能力の増加を含む、請求項1に記載のシステム。
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3回転自由度での集合アライメント能力を提供する、請求項1に記載のシステム。
- 複数の3Dプローブの配置は、第1の複数の点の最も小さく表された回転自由度での集合アライメント能力の増加を提供する、請求項1に記載のシステム。
- 第1の複数の点のサブセットに適合する回転の中心及び回転軸は、回転の中心及び回転軸がパターンの回転対称特徴と関連するように決定される、請求項1に記載のシステム。
- 第1の複数の点のサブセットから回転の中心及び回転軸を見出すことは、RANSAC技術を用いることを含む、請求項8に記載のシステム。
- 複数の特徴は、複数の面法線 ベクトルを含んでいる、請求項1に記載のシステム。
- 複数の特徴は、複数のエッジ近接ベクトルを含んでいる、請求項1に記載のシステム。
- 複数の特徴は、複数のエッジ方向ベクトルを含んでいる、請求項1に記載のシステム。
- 複数の特徴は複数の表面湾曲ベクトルを含んでいる、請求項1に記載のシステム。
- 少なくとも一部は第1の複数の特徴点と関連付けられる複数の特徴に基づいて、第1の複数の特徴点の中から第2の複数の特徴点を選択することは、
確率分布を第1の複数の点に適合させること、
目標分布の決定であって、前記目標分布は1個以上の特徴点へのプローブの所望の配置を示すことである、前記決定、並びに、
少なくとも一部は 提案されたプローブサイトでの適合された分布と目標分布と相対的確率を利用することによってプローブの配置を決定すること、
を含む、請求項1に記載のシステム。 - 特徴点分布を決定することは、混合モデルを包含する確率分布に複数の特徴点を適合させることを含んでおり、この確率分布は複数の特徴点で測定された少なくとも1つの配向の分布を示している、請求項14に記載のシステム。
- 更に、プロセッサは、複数の特徴点を少なくとも1つのクラスタにクラスタリングすることによって特徴点分布の混合モデルの多数の成分を決定するように構成されている、請求項14に記載のシステム。
- 更に、プロセッサは、
第1の複数の特徴点から1つ以上の地平点を特定し、
1つ以上の地平点を考慮から除外して第2の複数の特徴点が 1つ以上の地平点を包含しないように構成されている、請求項1に記載のシステム。 - 第2の複数の特徴点を選択することは、モンテカルロ 技術を用いることを含む、請求項1に記載のシステム。
- 3D実行時画像内のトレーニングされた3Dモデル画像のポーズを推定するための3Dアライメントシステムの内部で、実行時3D画像の3Dアライメントポーズを評価するために使用される3次元(3D)プローブの配置を選択するための方法であって、
当該方法は3D画像から第1の複数の特徴点と関連付けられる複数の特徴を生成することを有し、ここで各 特徴は複数の特徴点から関連付けられる点の3D特性を示すデータを含んでおり、
当該方法は少なくとも一部は第1の複数の特徴点と関連付けられる複数の特徴に基づいて第1の複数の特徴点の中から第2の複数の特徴点を選択することを有し、さらに
当該方法は少なくとも一部は第2の複数の特徴点に基づいて複数の3Dプローブの配置を決定することを含む、
方法。 - 少なくとも1並進自由度でのアライメントのために、複数の特徴の各々が第1の複数の点の中から関連付けられる点の少なくとも1つの有用性の測定値を包含する、請求項19に記載の方法。
- 少なくとも1回転自由度でのアライメントのために、複数の特徴の各々が第1の複数の点の中から関連付けられる点の少なくとも1つの有用性の測定値を包含する、請求項19に記載の方法、
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3並進自由度での集合アライメント能力を提供する、請求項19に記載の方法。
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3並進自由度での集合アライメントを提供し、このより大きい集合アライメント能力は、第1の複数の点の最も小さく表された回転自由度での集合アライメント能力の増加を含む、請求項19に記載の方法。
- 複数の3Dプローブの配置は、第1の複数の特徴点の各々への配置によって提供されるより大きい3回転自由度での集合アライメント能力を提供する、請求項19に記載の方法。
- 複数の3Dプローブの配置は、第1の複数の点の最も小さく表された回転自由度での集合アライメント能力の増加を提供する、請求項19に記載の方法。
- 第1の複数の点のサブセットに適合する回転の中心及び回転軸は、回転の中心及び回転軸がパターンの回転対称特徴と関連するように決定される、請求項19に記載の方法。
- 第1の複数の点のサブセットから回転の中心及び回転軸を見出すことは、RANSAC技術を用いることを含む、請求項26に記載の方法。
- 複数の特徴は、複数の面法線 ベクトルを含んでいる、請求項19に記載の方法。
- 複数の特徴は、複数のエッジ近接ベクトルを含んでいる、請求項19に記載のシステム。
- 複数の特徴は、複数のエッジ方向ベクトルを含んでいる、請求項19に記載の方法。
- 複数の特徴は、複数の表面湾曲ベクトルを含んでいる、請求項19に記載のシステム。
- 少なくとも一部は第1の複数の特徴点と関連付けられる複数の特徴に基づいて、第1の複数の特徴点の中から第2の複数の特徴点を選択することは、
確率分布を第1の複数の点に適合させること、
目標分布の決定であって、前記目標分布は1個以上の特徴点へのプローブの所望の配置を示すことである、前記決定、及び
少なくとも一部は 提案されたプローブサイトでの適合された分布と目標分布と相対的確率を利用することによってプローブの配置を決定すること、
を含む、請求項19に記載の方法。 - 特徴点分布を決定することは、混合モデルを包含する確率分布に複数の特徴点を適合させることを含んでおり、確率分布は複数の特徴点で測定された少なくとも1つの配向の分布を示している、請求項32に記載の方法。
- 更に、複数の特徴点を少なくとも1つのクラスタにクラスタリングすることによって特徴点分布の混合モデルの多数の成分を決定することを含む、請求項32に記載の方法。
- 更に、第1の複数の特徴点から1つ以上の地平点を特定すること、及び1つ以上の地平点を考慮から除外して第2の複数の特徴点が 1つ以上の地平点を包含しないようにすることを含む、請求項19に記載の方法。
- 第2の複数の特徴点を選択することは、モンテカルロ 技術を用いることを含む、請求項19に記載の方法。
- 非一時的コンピュータ可読媒体であって、3D実行時画像内のトレーニングされた3Dモデル画像のポーズを推定するための3Dアライメントシステムの内部で、実行時3D画像の3Dアライメントポーズを評価するために使用される3次元(3D)プローブの配置を選択するためのシステムと連係する実行可能な命令を有しており、システムに、
3D画像から第1の複数の特徴点と関連付けられる複数の特徴を生成させ、ここで各 特徴は複数の特徴点から関連付けられる点の3D特性を示すデータを含んでおり、
少なくとも一部は第1の複数の特徴点と関連付けられる複数の特徴に基づいて、第1の複数の特徴点の中から第2の複数の特徴点を選択させ、及び
少なくとも一部は第2の複数の特徴点に基づいて複数の3Dプローブの配置を決定させるように動作可能である、非一時的コンピュータ可読媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/232,766 | 2016-08-09 | ||
US15/232,766 US10417533B2 (en) | 2016-08-09 | 2016-08-09 | Selection of balanced-probe sites for 3-D alignment algorithms |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018055679A true JP2018055679A (ja) | 2018-04-05 |
JP6744847B2 JP6744847B2 (ja) | 2020-08-19 |
Family
ID=61018555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017152076A Active JP6744847B2 (ja) | 2016-08-09 | 2017-08-05 | 3dアライメントアルゴリズムのためのバランスの取れたプローブサイトの選択 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10417533B2 (ja) |
JP (1) | JP6744847B2 (ja) |
KR (1) | KR102204818B1 (ja) |
CN (1) | CN107705328B (ja) |
DE (1) | DE102017213752A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10482196B2 (en) * | 2016-02-26 | 2019-11-19 | Nvidia Corporation | Modeling point cloud data using hierarchies of Gaussian mixture models |
US10417533B2 (en) * | 2016-08-09 | 2019-09-17 | Cognex Corporation | Selection of balanced-probe sites for 3-D alignment algorithms |
EP3297018B1 (en) * | 2016-09-19 | 2019-03-27 | FEI Company | Tomographic imaging method |
US10860841B2 (en) | 2016-12-29 | 2020-12-08 | Samsung Electronics Co., Ltd. | Facial expression image processing method and apparatus |
EP3399757A1 (en) * | 2017-05-04 | 2018-11-07 | Thomson Licensing | Method and apparatus to encode and decode two-dimension point clouds |
US10382662B1 (en) * | 2017-09-06 | 2019-08-13 | The United States Of America, As Represented By The Secretary Of The Navy | Apparatus and method for locating camera towers and scheduling surveillance |
JP6598898B2 (ja) * | 2018-02-27 | 2019-10-30 | 株式会社Screenホールディングス | 芯ズレ検出装置および芯ズレ検出方法 |
CN111344697A (zh) * | 2018-07-18 | 2020-06-26 | 深圳码隆科技有限公司 | 用于机器视觉模型的基于复杂度的渐进式训练 |
CN110956603B (zh) | 2018-09-25 | 2023-04-21 | Oppo广东移动通信有限公司 | 深度图像边缘飞点的检测方法、装置及电子设备 |
CN110070182B (zh) * | 2019-04-01 | 2021-08-24 | 京微齐力(北京)科技有限公司 | 适合人工智能的平台芯片及其制造和设计方法 |
CN110991229B (zh) * | 2019-10-24 | 2023-04-28 | 中山大学 | 基于dsp芯片与量化模型的三维物体识别方法 |
US11315310B2 (en) * | 2020-03-12 | 2022-04-26 | Nvidia Corporation | Reservoir-based spatiotemporal importance resampling utilizing a global illumination data structure |
CN111487581B (zh) * | 2020-04-20 | 2022-02-11 | 中国人民解放军军事科学院国防科技创新研究院 | 基于舵矢量模式匹配的宽带闪电vhf辐射源测向方法 |
JP7515795B2 (ja) * | 2020-06-01 | 2024-07-16 | 株式会社エビデント | 画像処理システム、及び、画像処理方法、並びに、画像処理プログラム |
US11625843B2 (en) * | 2020-06-24 | 2023-04-11 | Bluebeam, Inc. | Systems and methods for automatic alignment of drawings |
CN112075957B (zh) * | 2020-07-27 | 2022-05-17 | 深圳瀚维智能医疗科技有限公司 | 乳腺环扫轨迹规划方法、装置及计算机可读存储介质 |
CN112329339B (zh) * | 2020-10-27 | 2022-07-19 | 河北工业大学 | 一种风电场短期风速预测方法 |
CN113052110B (zh) * | 2021-04-02 | 2022-07-29 | 浙大宁波理工学院 | 一种基于多视图投影和深度学习的三维兴趣点提取方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012063866A (ja) * | 2010-09-14 | 2012-03-29 | Topcon Corp | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム |
US20150015602A1 (en) * | 2013-07-10 | 2015-01-15 | Cognex Corporation | System and method for selective determination of point clouds |
JP2016136392A (ja) * | 2015-01-23 | 2016-07-28 | コグネックス・コーポレーション | 画像処理のためのプローブの配置 |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7016539B1 (en) * | 1998-07-13 | 2006-03-21 | Cognex Corporation | Method for fast, robust, multi-dimensional pattern recognition |
US6765570B1 (en) * | 1998-07-21 | 2004-07-20 | Magic Earth, Inc. | System and method for analyzing and imaging three-dimensional volume data sets using a three-dimensional sampling probe |
DE60019119T8 (de) | 2000-09-27 | 2006-10-12 | Mvtec Software Gmbh | System und Verfahren zur Objekterkennung |
US7006085B1 (en) * | 2000-10-30 | 2006-02-28 | Magic Earth, Inc. | System and method for analyzing and imaging three-dimensional volume data sets |
AU1352501A (en) * | 2000-10-30 | 2002-05-15 | Magic Earth Inc | System and method for analyzing and imaging three-dimensional volume data sets |
US20030063781A1 (en) * | 2001-09-28 | 2003-04-03 | Koninklijke Philips Electronics N.V. | Face recognition from a temporal sequence of face images |
JP2007141222A (ja) * | 2005-10-19 | 2007-06-07 | Keyence Corp | 画像処理装置および画像処理方法 |
DE102008001800A1 (de) * | 2007-05-25 | 2008-11-27 | Carl Zeiss Smt Ag | Projektionsobjektiv für die Mikrolithographie, Mikrolithographie-Projektionsbelichtungsanlage mit einem derartigen Projektionsobjektiv, mikrolithographisches Herstellungsverfahren für Bauelemente sowie mit diesem Verfahren hergestelltes Bauelement |
US8090160B2 (en) * | 2007-10-12 | 2012-01-03 | The University Of Houston System | Automated method for human face modeling and relighting with application to face recognition |
WO2009047335A1 (en) * | 2007-10-12 | 2009-04-16 | Mvtec Software Gmbh | Computer vision cad models |
KR100930994B1 (ko) * | 2007-12-18 | 2009-12-10 | 주식회사 케이티 | 3차원 영상 모델 생성 방법 및 장치, 이를 이용한 영상인식 방법 및 장치 그리고 상기 방법들을 수행하는프로그램이 기록된 기록 매체 |
US8259998B2 (en) * | 2008-09-30 | 2012-09-04 | Mazda Motor Corporation | Image processing device for vehicle |
US8556815B2 (en) * | 2009-05-20 | 2013-10-15 | Laurent Pelissier | Freehand ultrasound imaging systems and methods for guiding fine elongate instruments |
US9607239B2 (en) * | 2010-01-20 | 2017-03-28 | Faro Technologies, Inc. | Articulated arm coordinate measurement machine having a 2D camera and method of obtaining 3D representations |
DE112011100300T5 (de) * | 2010-01-20 | 2013-03-07 | Faro Technologies, Inc. | Integriertes Temperaturmesssystem für Teile |
KR20110097140A (ko) * | 2010-02-24 | 2011-08-31 | 삼성전자주식회사 | 이동 로봇의 위치 추정 장치 및 방법 |
JP5872818B2 (ja) * | 2010-08-20 | 2016-03-01 | パナソニック株式会社 | 測位処理装置、測位処理方法、および画像処理装置 |
US20140043329A1 (en) * | 2011-03-21 | 2014-02-13 | Peng Wang | Method of augmented makeover with 3d face modeling and landmark alignment |
US9235928B2 (en) * | 2012-01-24 | 2016-01-12 | University Of Southern California | 3D body modeling, from a single or multiple 3D cameras, in the presence of motion |
US9299160B2 (en) * | 2012-06-25 | 2016-03-29 | Adobe Systems Incorporated | Camera tracker target user interface for plane detection and object creation |
EP2720171B1 (en) * | 2012-10-12 | 2015-04-08 | MVTec Software GmbH | Recognition and pose determination of 3D objects in multimodal scenes |
US9041914B2 (en) * | 2013-03-15 | 2015-05-26 | Faro Technologies, Inc. | Three-dimensional coordinate scanner and method of operation |
KR102016551B1 (ko) * | 2014-01-24 | 2019-09-02 | 한화디펜스 주식회사 | 위치 추정 장치 및 방법 |
US9953111B2 (en) * | 2014-06-06 | 2018-04-24 | Matterport, Inc. | Semantic understanding of 3D data |
WO2016199605A1 (ja) * | 2015-06-12 | 2016-12-15 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
US11206989B2 (en) * | 2015-12-10 | 2021-12-28 | Fitbit, Inc. | Light field management in an optical biological parameter sensor |
US10373380B2 (en) * | 2016-02-18 | 2019-08-06 | Intel Corporation | 3-dimensional scene analysis for augmented reality operations |
US10417533B2 (en) * | 2016-08-09 | 2019-09-17 | Cognex Corporation | Selection of balanced-probe sites for 3-D alignment algorithms |
-
2016
- 2016-08-09 US US15/232,766 patent/US10417533B2/en active Active
-
2017
- 2017-08-05 JP JP2017152076A patent/JP6744847B2/ja active Active
- 2017-08-08 DE DE102017213752.5A patent/DE102017213752A1/de active Pending
- 2017-08-09 KR KR1020170100976A patent/KR102204818B1/ko active IP Right Grant
- 2017-08-09 CN CN201710675263.6A patent/CN107705328B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012063866A (ja) * | 2010-09-14 | 2012-03-29 | Topcon Corp | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム |
US20150015602A1 (en) * | 2013-07-10 | 2015-01-15 | Cognex Corporation | System and method for selective determination of point clouds |
JP2016136392A (ja) * | 2015-01-23 | 2016-07-28 | コグネックス・コーポレーション | 画像処理のためのプローブの配置 |
Also Published As
Publication number | Publication date |
---|---|
US10417533B2 (en) | 2019-09-17 |
JP6744847B2 (ja) | 2020-08-19 |
KR20180103660A (ko) | 2018-09-19 |
US20180046885A1 (en) | 2018-02-15 |
CN107705328A (zh) | 2018-02-16 |
DE102017213752A1 (de) | 2018-02-15 |
CN107705328B (zh) | 2021-11-02 |
KR102204818B1 (ko) | 2021-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6744847B2 (ja) | 3dアライメントアルゴリズムのためのバランスの取れたプローブサイトの選択 | |
US11049267B2 (en) | Apparatus, method, and system for alignment of 3D datasets | |
US10880541B2 (en) | Stereo correspondence and depth sensors | |
CN109307478B (zh) | 用于执行对象的3-d测量的分辨率自适应网格 | |
EP3457357A1 (en) | Methods and systems for surface fitting based change detection in 3d point-cloud | |
US9135710B2 (en) | Depth map stereo correspondence techniques | |
Grant et al. | Point-to-plane registration of terrestrial laser scans | |
Bae et al. | A method for automated registration of unorganised point clouds | |
KR101918168B1 (ko) | 3차원 계측 방법 및 그 장치 | |
Senin et al. | Characterisation of individual areal features | |
Sveier et al. | Object detection in point clouds using conformal geometric algebra | |
JP6702732B2 (ja) | 画像処理のためのプローブの配置 | |
KR20230049585A (ko) | 포인트 클라우드 히스토그램을 생성하기 위한 방법 및 장치 | |
Shen et al. | Accurate extraction of brick shapes in masonry walls from dense terrestrial laser scanning point cloud | |
GB2621906A (en) | A system and method for processing image data | |
Yao et al. | Robust surface registration using N-points approximate congruent sets | |
KR20230050269A (ko) | 3d 이미지의 볼륨을 결정하기 위한 방법 및 장치 | |
Fuersattel et al. | Geometric primitive refinement for structured light cameras | |
Canelhas | Truncated signed distance fields applied to robotics | |
Gaal et al. | FeatSense–A Feature-based Registration Algorithm with GPU-accelerated TSDF-Mapping Backend for NVIDIA Jetson Boards | |
Abdelmajid | Investigation and comparison of 3D laser scanning software packages | |
Vila et al. | Automatic silo axis detection from RGB-D sensor data for content monitoring | |
Vila Clarà et al. | Automatic silo axis detection from RGB-D sensor data for content monitoring | |
CN116783619A (zh) | 用于生成点云直方图的方法和装置 | |
Du | Edge Detection in 3D Point Clouds for Industrial Applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190401 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200702 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200731 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6744847 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |