JP7238676B2 - Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device - Google Patents
Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device Download PDFInfo
- Publication number
- JP7238676B2 JP7238676B2 JP2019142751A JP2019142751A JP7238676B2 JP 7238676 B2 JP7238676 B2 JP 7238676B2 JP 2019142751 A JP2019142751 A JP 2019142751A JP 2019142751 A JP2019142751 A JP 2019142751A JP 7238676 B2 JP7238676 B2 JP 7238676B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- missing
- pattern image
- displacement distribution
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Investigating Strength Of Materials By Application Of Mechanical Stress (AREA)
Description
本発明は、変位分布計測装置、変位分布計測方法、及び変位分布計測装置の制御プログラムに関する。 The present invention relates to a displacement distribution measuring device, a displacement distribution measuring method, and a control program for the displacement distribution measuring device.
物体の表面の変位を計測する種々の技術が知られている。
例えば、特許文献1には、変位計測装置が、所定の位置に設けられた変位計測用の格子を含む変位計測用画像を撮影する撮影部と、変位計測用画像から格子の領域を検出して該格子領域の画像を抽出する格子領域検出部と、抽出した格子領域の画像に対してサンプリングモアレ法により格子領域の画像に対するモアレの位相分布を導出する位相分布導出部と、位相分布から求められた所定の位置における変位前後の位相差と、予め定められた格子ピッチとから所定の位置における変位を決定する変位決定部と、を備えた技術が開示されている。
Various techniques are known for measuring the displacement of the surface of an object.
For example, in Patent Document 1, a displacement measuring device includes an imaging unit that captures a displacement measuring image including a displacement measuring grid provided at a predetermined position, and detects a grid region from the displacement measuring image. a grid area detection unit for extracting an image of the grid area; a phase distribution derivation unit for deriving a moire phase distribution for the image of the grid area by a sampling moire method for the extracted image of the grid area; and a displacement determination unit that determines the displacement at the predetermined position from the phase difference before and after the displacement at the predetermined position and the predetermined grating pitch.
しかしながら、特許文献1に記載の変位計測装置では、格子領域の画像に対するモアレの位相分布を導出し、位相分布から求められた所定の位置における変位前後の位相差と、予め定められた格子ピッチとから所定の位置における変位を決定する。よって、撮影画像中の格子パターンに対応する格子領域の一部が欠落している場合には、モアレの位相分布を導出することができない可能性があり、所定の位置における変位を決定することができない可能性がある。格子領域の一部が欠落する原因の例として、測定対象への格子パターン転写の失敗、孔等の構造的欠損がある対象の測定、カメラの設定ミス等が挙げられる。 However, in the displacement measuring apparatus described in Patent Document 1, the phase distribution of moire for the image of the grating area is derived, and the phase difference before and after the displacement at the predetermined position obtained from the phase distribution, the predetermined grating pitch, and the to determine the displacement at the given position. Therefore, if a part of the lattice area corresponding to the lattice pattern in the captured image is missing, it may not be possible to derive the moiré phase distribution, and it is difficult to determine the displacement at the predetermined position. may not be possible. Examples of the cause of missing part of the grid area include failure in transferring the grid pattern to the measurement target, measurement of a target with structural defects such as holes, and camera setting errors.
本発明は、このような事情に鑑みなされたものであり、撮影画像中の格子等のパターンの一部が欠落した場合であっても、物体の表面の変位分布を算出可能な変位分布計測装置、変位分布計測方法、及び変位分布計測装置の制御プログラムを提供することを目的とする。 The present invention has been made in view of such circumstances, and is a displacement distribution measuring apparatus capable of calculating the displacement distribution of the surface of an object even when a part of the pattern such as a grid in the photographed image is missing. , a displacement distribution measuring method, and a control program for a displacement distribution measuring apparatus.
本発明の第1の態様は、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測装置であって、前記パターンの画像を示すパターン画像を生成する撮像部と、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部と、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部と、を備える、変位分布計測装置に関する。 A first aspect of the present invention is a displacement distribution measuring device for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object, wherein a pattern image representing the image of the pattern is provided. an imaging unit for generating; a complementing unit for generating a complemented image by complementing the pattern image corresponding to the missing region when the pattern image includes a missing region in which a part of the pattern image is missing; and a calculator for calculating the displacement distribution of the surface of the object based on the image.
本発明の第2の態様は、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測方法であって、前記パターンの画像を示すパターン画像を生成する撮像ステップと、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完ステップと、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出ステップと、を含む、変位分布計測方法に関する。 A second aspect of the present invention is a displacement distribution measuring method for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object. an imaging step of generating; a complementing step of complementing the pattern image corresponding to the missing region to generate a complemented image when the pattern image includes a missing region in which a part of the pattern image is missing; and a calculation step of calculating the displacement distribution of the surface of the object based on the image.
本発明の第3の態様は、コンピュータを備え、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測装置の制御プログラムであって、前記コンピュータを、前記パターンの画像を示すパターン画像を生成する撮像部、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部、及び、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部、として機能させる、変位分布計測装置の制御プログラムに関する。 A third aspect of the present invention is a control program for a displacement distribution measuring device comprising a computer and measuring a displacement distribution on the surface of the object based on an image of a pattern formed on the surface of the object, wherein the computer an imaging unit for generating a pattern image representing an image of the pattern, and when the pattern image includes a missing area in which a part of the pattern image is missing, the pattern image corresponding to the missing area is complemented. The present invention relates to a control program for a displacement distribution measuring device that functions as a complementing unit that generates an image and a calculating unit that calculates the displacement distribution of the surface of the object based on the complemented image.
本発明の第1の態様によれば、パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、補完部が、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成し、算出部が、前記補完画像に基づき、前記物体の表面の変位分布を算出する。
したがって、パターン画像の一部が欠落した場合であっても、物体の表面の変位分布を算出できる。
According to the first aspect of the present invention, when a pattern image includes a missing region in which a part of the pattern image is missing, the complementing unit complements the pattern image corresponding to the missing region to generate a complemented image. A calculation unit calculates the displacement distribution of the surface of the object based on the complementary image.
Therefore, even if part of the pattern image is missing, the displacement distribution of the surface of the object can be calculated.
本発明の第2の態様によれば、パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、補完ステップにおいて、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成し、算出ステップにおいて、前記補完画像に基づき、前記物体の表面の変位分布を算出する。
したがって、パターン画像の一部が欠落した場合であっても、物体の表面の変位分布を算出できる。
According to the second aspect of the present invention, when the pattern image includes a missing area in which a part of the pattern image is missing, in the complementing step, the pattern image corresponding to the missing area is complemented to obtain a complemented image. In a calculating step, a displacement distribution of the surface of the object is calculated based on the complemented image.
Therefore, even if part of the pattern image is missing, the displacement distribution of the surface of the object can be calculated.
本発明の第3の態様によれば、パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、補完部が、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成し、算出部が、前記補完画像に基づき、前記物体の表面の変位分布を算出する。
したがって、パターン画像の一部が欠落した場合であっても、物体の表面の変位分布を算出できる。
According to the third aspect of the present invention, when a pattern image includes a missing region in which a part of the pattern image is missing, the complementing unit complements the pattern image corresponding to the missing region to generate a complemented image. A calculation unit calculates the displacement distribution of the surface of the object based on the complementary image.
Therefore, even if part of the pattern image is missing, the displacement distribution of the surface of the object can be calculated.
以下、図面を参照して本発明の実施形態について説明する。 Embodiments of the present invention will be described below with reference to the drawings.
[1.共通の構成]
[1-1.引張試験機の構成]
図1は、本発明の実施形態に係る引張試験機1の構成の一例を示す図である。
本発明の実施形態の引張試験機1は、試験対象TPに試験力Fを与えて、試料の引張強度、降伏点、伸び、絞りなどの機械的性質を測定する材料試験を行う。試験力Fは、引張力である。
引張試験機1は、試験対象の材料である試験対象TPに試験力Fを与えて引張試験を行う引張試験機本体2と、引張試験機本体2による引張試験動作を制御する制御ユニット4と、を備える。
なお、引張試験機1は、「材料試験機」の一例に対応する。試験対象TPは、「物体」の一例に対応する。
[1. Common configuration]
[1-1. Configuration of tensile tester]
FIG. 1 is a diagram showing an example of the configuration of a tensile tester 1 according to an embodiment of the present invention.
A tensile tester 1 according to an embodiment of the present invention applies a test force F to a test target TP to perform a material test for measuring mechanical properties such as tensile strength, yield point, elongation, and reduction of area of a sample. The test force F is the tensile force.
The tensile tester 1 includes a
Note that the tensile tester 1 corresponds to an example of a "material testing machine". A test target TP corresponds to an example of an "object".
試験機本体2は、テーブル26と、このテーブル26上に鉛直方向を向く状態で回転可能に立設された一対のねじ棹28、29と、これらのねじ棹28、29に沿って移動可能なクロスヘッド10と、このクロスヘッド10を移動させて試験対象TPに負荷を与える負荷機構12と、ロードセル14と、を備える。ロードセル14は、試験対象TPに与えられる引張荷重である試験力Fを測定し、試験力測定信号SG1を出力するセンサである。
The testing machine
負荷機構12は、各ねじ棹28、29の下端部に連結されるウォーム減速機16、17と、各ウォーム減速機16、17に連結されるサーボモータ18と、ロータリエンコーダ20と、を備える。ロータリエンコーダ20は、サーボモータ18の回転量を測定し、回転量に応じたパルス数の回転測定信号SG2を制御ユニット4に出力するセンサである。
そして負荷機構12は、ウォーム減速機16、17を介して、一対のねじ棹28、29にサーボモータ18の回転を伝達し、各ねじ棹28、29が同期して回転することにより、クロスヘッド10がねじ棹28、29に沿って昇降する。
The
The
クロスヘッド10には、試験対象TPの上端部を把持するための上つかみ具21が付設され、テーブル26には、試験対象TPの下端部を把持するための下つかみ具22が付設されている。試験機本体2は、引張試験の際、試験対象TPの両端部をこれらの上つかみ具21及び下つかみ具22により把持した状態で、制御ユニット4の制御に従って、クロスヘッド10を上昇させることにより、試験対象TPに試験力Fを与える。
The
試験対象TPには、変位センサ15が配置される。試験対象TPは、例えば、中央がくびれて形成されたダンベル型試験対象が用いられる。変位センサ15は、試験対象TPの1対の標点の間の距離を測定することによって、伸び計測値EDを測定し、伸び測定信号SG3を出力するセンサである。1対の標点は、試験対象TPがくびれた領域の上部と下部とに配置される。
A
制御ユニット4は、統括制御装置30と、表示装置32と、試験プログラム実行装置34と、を備える。
統括制御装置30は、当該試験機本体2を中枢的に制御する装置であり、試験機本体2との間で信号を送受信可能に接続される。試験機本体2から受信する信号は、ロードセル14が出力する試験力測定信号SG1、ロータリエンコーダ20が出力する回転測定信号SG2、変位センサ15が出力する伸び測定信号SG3、及び制御や試験に要する適宜の信号などである。
表示装置32は、統括制御装置30から入力される信号に基づいて各種情報を表示する装置であり、例えば、統括制御装置30は、引張試験の間、伸び測定信号SG3に基づいて試験対象TPの伸びの測定値である伸び計測値EDを表示装置32に表示する。また、例えば、統括制御装置30は、引張試験の間、回転測定信号SG2に基づくクロスヘッド10の変位を示す変位計測値XDを表示装置32に表示する。
The
The integrated
The
引張試験プログラム実行装置34は、引張試験の試験条件といった各種設定パラメータの設定操作や実行指示操作などのユーザ操作を受け付け、統括制御装置30に出力する機能や、試験力計測値FDのデータを解析する機能などを備えた装置である。
本発明の実施形態の引張試験プログラム実行装置34はコンピュータを備え、このコンピュータは、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)などのプロセッサと、ROM(Read Only Memory)やRAM(Random Access Memory)などのメモリデバイスと、HDD(Hard Disk Drive)やSSD(Solid State Drive)などのストレージ装置と、統括制御装置30や各種の周辺機器などを接続するためのインターフェース回路と、を備える。そして、プロセッサがメモリデバイス又はストレージ装置に記憶されたコンピュータプログラムである引張試験プログラムを実行することで、上述の各種の機能を実現する。
The tensile test
The tensile test
次いで、本発明の実施形態の統括制御装置30について、更に詳述する。統括制御装置30は、信号入出力ユニット40と、制御回路ユニット50と、を備える。
信号入出力ユニット40は、試験機本体2との間で信号を送受する入出力インターフェース回路を構成するものであり、本発明の実施形態では、第1センサアンプ42と、第2センサアンプ45と、カウンタ回路43と、サーボアンプ44とを有する。
第1センサアンプ42は、ロードセル14が出力する試験力測定信号SG1を増幅して制御回路ユニット50に出力する増幅器である。第2センサアンプ45は、変位センサ15が出力する伸び測定信号SG3を増幅して制御回路ユニット50に出力する増幅器である。
カウンタ回路43は、ロータリエンコーダ20が出力する回転測定信号SG2のパルス数を計数し、サーボモータ18の回転量、すなわちサーボモータ18の回転によって昇降するクロスヘッド10の変位計測値XDを示す変位測定信号A3を制御回路ユニット50にデジタル信号で出力する。サーボアンプ44は、制御回路ユニット50の制御に従って、サーボモータ18を制御する装置である。
Next, the
The signal input/
The
The
制御回路ユニット50は、通信部51と、フィードバック制御部52を備える。
制御回路ユニット50は、CPUやMPUなどのプロセッサと、ROMやRAMなどのメモリデバイスと、HDDやSSDなどのストレージ装置と、信号入出力ユニット40とのインターフェース回路と、引張試験プログラム実行装置34と通信する通信装置と、表示装置32を制御する表示制御回路と、各種の電子回路と、を備えたコンピュータを備える。また、制御回路ユニット50のプロセッサがメモリデバイス又はストレージ装置に記憶された制御プログラムを実行することで、図1に示す各機能部を実現する。
また、信号入出力ユニット40のインターフェース回路にはA/D変換器が設けられており、アナログ信号の試験力測定信号SG1及び伸び測定信号SG3がA/D変換器によってデジタル信号に変換される。
なお、制御回路ユニット50は、コンピュータに限らず、ICチップやLSIなどの集積回路といった1又は複数の適宜の回路によって構成されてもよい。
The
The
An interface circuit of the signal input/
Note that the
通信部51は、試験プログラム実行装置34との間で通信し、試験条件の設定や各種設定パラメータの設定値、引張試験の実行指示や中断指示などを試験プログラム実行装置34から受信する。また、通信部51は、伸び測定信号SG3に基づく伸び計測値ED、及び試験力測定信号SG1に基づく試験力計測値FDを適宜のタイミングで試験プログラム実行装置34に送信する。また、通信部51は、回転測定信号SG2に基づく変位計測値XDを適宜のタイミングで試験プログラム実行装置34に送信する。
The
フィードバック制御部52は、試験機本体2のサーボモータ18をフィードバック制御して引張試験を実行する。フィードバック制御部52は、サーボモータ18のフィードバック制御を実行する回路である。
フィードバック制御部52が位置制御を実行する場合には、フィードバック制御部52は、例えば、ロードセル14が出力する試験力計測値FDについて位置制御を実行する。この場合には、フィードバック制御部52は、試験力計測値FDを試験力目標値FTに一致させるように変位計測値XDの指令値dXを演算し、当該指令値dXを示す指令信号A4をサーボアンプ44に出力する。なお、試験力目標値FTは、試験力計測値FDの目標値を示す。
なお、「位置制御」とは、センサ等によって測定された検出値を、その目標値に一致させるように制御することを示す。
The
When the
Note that "position control" means controlling a detected value measured by a sensor or the like so as to match its target value.
なお、位置制御を実行する場合について説明するが、フィードバック制御部52が速度制御を実行してもよい。「速度制御」とは、センサ等によって測定された検出値の単位時間当たりの変化量を、その目標値に一致させるように制御することを示す。
Although the case where position control is performed will be described, the
[1-2.変位分布計測装置の構成]
図2は、本発明の実施形態に係る変位分布計測装置200の構成の一例を示す平面図である。図2に示すように、変位分布計測装置200は、カメラ6と、第1制御部8と、第2制御部7と、を備える。
[1-2. Configuration of Displacement Distribution Measuring Device]
FIG. 2 is a plan view showing an example of the configuration of the displacement
試験対象TPの特定面TP1には、パターンPTNが形成されている。特定面TP1は、試験対象TPのカメラ6に近接する側の面を示す。試験対象TPのカメラ6に近接する側は、図2では下側を示す。パターンPTNについては、後述にて図4を参照して説明する。
A pattern PTN is formed on the specific surface TP1 of the test object TP. A specific plane TP1 indicates the side of the test target TP that is close to the
カメラ6は、第1制御部8の指示に従って、パターンPTNの画像を示すパターン画像PNを生成する。カメラ6は、CCD(Charge Coupled Device)、及び、CMOS(Complementary MOS)等のイメージセンサーを備える。パターン画像PNについては、後述にて図4を参照して説明する。
The
カメラ6の撮影方向C6が、試験対象TPの幅方向の中央を通り、試験対象TPの特定面TP1と直行するようにカメラ6が配置される。試験対象TPの幅方向は、図2の左右方向を示す。撮影方向C6は、カメラ6の撮影範囲の中心を示す。
The
第1制御部8は、変位分布計測装置200の動作を制御する。また、第1制御部8は、制御回路ユニット50と通信可能に構成され、制御回路ユニット50からの指示に従って、カメラ6の動作を制御する。具体的には、第1制御部8は、制御回路ユニット50からの指示に従って、カメラ6の撮影タイミングを決定する。第1制御部8の構成については、後述にて図3を参照して詳細に説明する。
The
第2制御部7は、学習済モデルMDを生成し、生成した学習済モデルMDを第1制御部8に送信する。学習済モデルMDについては、後述にて図3を参照して詳細に説明する。
The
[1-3.第1制御部及び第2制御部の構成]
図3は、本発明の実施形態に係る第1制御部8及び第2制御部7の各々の構成の一例を示す図である。
図3に示すように、第1制御部8は、撮像部811と、補完部812と、算出部813と、学習済モデル記憶部814と、を備える。
また、第1制御部8は、CPUやMPU等の第1プロセッサ81Aと、ROMやRAM等の第1メモリデバイス81Bと、HDDやSSD等の第1ストレージ装置81Cと、制御回路ユニット50及び第2制御部7の各々と通信する第1通信装置81Dと、各種の電子回路と、を備えたパーソナルコンピュータで構成される。また、第1制御部8の第1プロセッサ81Aが第1メモリデバイス81B又は第1ストレージ装置81Cに記憶された第1制御プログラムを実行することで、図3に示す各機能部を実現する。第1プロセッサ81Aは、「コンピュータ」の一例に対応する。第1制御プログラムは、「制御プログラム」の一例に対応する。
[1-3. Configuration of first control unit and second control unit]
FIG. 3 is a diagram showing an example of the configuration of each of the
As shown in FIG. 3 , the
The
なお、第1制御部8は、パーソナルコンピュータに限らず、ICチップやLSIなどの集積回路といった1又は複数の適宜の回路によって構成されてもよい。また、第1制御部8は、例えば、タブレット端末、又はスマートフォンとして構成されてもよい。
また、第1制御部8は、DSP(Digital Signal Processor)やFPGA(Field Programmable Gate Array)等、プログラムされたハードウェアを備えてもよい。また、第1制御部8は、SoC(System-on-a-Chip)-FPGAを備えてもよい。
Note that the
The
撮像部811は、カメラ6にパターンPTNを撮像させて、パターンPTNの画像を示すパターン画像PNを生成する。具体的には、撮像部811は、制御回路ユニット50からの指示に従って、パターン画像PNを生成する。
また、撮像部811は、所定時間毎にパターン画像PNを生成する。所定時間は、例えば、0.01秒である。具体的には、引張試験機1が引張試験の実行を開始してから、引張試験の実行を終了するまでの間において、撮像部811は、所定時間毎にパターン画像PNを生成する。
The
Further, the
[補完部812の第1実施形態]
第1実施形態に係る補完部812は、パターン画像PNがパターン画像PNの一部が欠落した欠落領域HLを含む場合に、欠落領域HLに対応するパターン画像PNを補完して全体補完画像PCを生成する。全体補完画像PCは、欠落領域HLに対応するパターン画像PNを補完したパターン画像PNの全体の画像を示す。全体補完画像PCは、「補完画像」の一例に対応する。
また、補完部812は、欠落領域HLを含むパターン画像PNの情報と、欠落領域HLに対応するパターン画像PNが補完された全体補完画像PCの情報とを対応付けた学習データDLに基づき生成された学習済モデルMD、を備える。
また、補完部812は、欠落領域HLを含むパターン画像PNの情報を、学習済モデルMDに入力し、欠落領域HLに対応する欠落補完画像PCHの情報を、学習済モデルMDから出力させる。欠落補完画像PCHは、欠落領域HLに対応するパターン画像PNを示す。
また、補完部812は、欠落領域HLを含むパターン画像PNと、欠落領域HLに対応する欠落補完画像PCHと、を合成することによって、全体補完画像PCを生成する。
また、補完部812は、撮像部811がパターン画像PNを生成する度に、全体補完画像PCを生成する。
第1実施形態に係る補完部812については、後述にて図10~図14を参照して詳細に説明する。
[First embodiment of complementing unit 812]
The
Further, the
Further, the
Further, the
Also, the
The
算出部813は、全体補完画像PCに基づき、試験対象TPの表面の変位分布を算出する。算出部813については、後述にて、図4~図5を参照して詳細に説明する。
The
学習済モデル記憶部814は、第2制御部7によって生成された学習済モデルMDを記憶する。
The learned
図3に示すように、第2制御部7は、決定部711と、生成部712と、学習部713と、学習データ記憶部714と、学習済モデル記憶部715と、を備える。
また、第2制御部7は、CPUやMPU等の第2プロセッサ71Aと、ROMやRAM等の第2メモリデバイス71Bと、HDDやSSD等の第2ストレージ装置71Cと、第1制御部8と通信する第2通信装置71Dと、各種の電子回路と、を備えたパーソナルコンピュータで構成される。また、第2制御部7の第2プロセッサ71Aが第2メモリデバイス71B又は第2ストレージ装置71Cに記憶された第2制御プログラムを実行することで、図3に示す各機能部を実現する。
As shown in FIG. 3 , the
The
なお、第2制御部7は、パーソナルコンピュータに限らず、ICチップやLSIなどの集積回路といった1又は複数の適宜の回路によって構成されてもよい。また、第2制御部7は、例えば、タブレット端末、又はスマートフォンとして構成されてもよい。
また、第2制御部7は、DSP(Digital Signal Processor)やFPGA(Field Programmable Gate Array)等、プログラムされたハードウェアを備えてもよい。また、第2制御部7は、SoC(System-on-a-Chip)-FPGAを備えてもよい。
The
The
決定部711は、欠落領域HLの位置PS及びサイズSZをランダムに決定する。欠落領域HLの位置PSは、欠落領域HLのパターン画像PNにおける位置を示す。サイズSZの最大値は、例えば、パターン画像PNの面積の1/10とする。サイズSZの最小値は、例えば、パターン画像PNの面積の1/1000とする。すなわち、決定部711は、サイズSZを、パターン画像PNの面積の1/1000からパターン画像PNの面積の1/10までの間でランダムに決定する。
The
生成部712は、学習データDLを構成する欠落領域HLを含むパターン画像PNを、欠落領域HLを含まないパターン画像PNから欠落領域HLに対応する画像を切り取ることによって生成する。
また、生成部712は、決定部711が決定した位置PS及びサイズSZの所定形状の欠落領域HLを含むパターン画像PNを生成する。本実施形態では、所定形状は、矩形形状を含む。
The
The
学習部713は、生成部712によって生成された欠落領域HLを含むパターン画像PNの情報と、パターン画像PNが補完された全体補完画像PCの情報とを対応付けた学習データDLに基づき機械学習を実行し、学習済モデルMDを生成する。
全体補完画像PCは、本発明の実施形態では、欠落領域HLを含まないパターン画像PNに対応する。すなわち、学習部713は、欠落領域HLを含むパターン画像PNの情報と、欠落領域HLを含まないパターン画像PNの情報とを対応付けた学習データDLに基づき機械学習を実行する。
具体的には、機械学習は、pix2pixを用いたディープラーニングによって実行した。「pix2pix」とは、2014年に、Berkeley AI Research (BAIR) Laboratory, UC BerkeleyのPhillip Isola等によって発表された「Image-to-Image Translation with Conditional Adversarial Networks」という論文で提案されたアルゴリズムである。pix2pixは、GAN(Generative Adversarial Network) という手法を用いて画像処理を行うことが特徴である。
この論文には、pix2pixを用いた欠落画像の補完等の種々の画像処理が紹介されている。
学習データDLは、例えば、60個であった。
The
The overall complemented image PC corresponds to the pattern image PN that does not include the missing area HL in the embodiment of the present invention. That is, the
Specifically, machine learning was performed by deep learning using pix2pix. “pix2pix” is an algorithm proposed in a paper entitled “Image-to-Image Translation with Conditional Adversarial Networks” published by Phillip Isola et al. of Berkeley AI Research (BAIR) Laboratory, UC Berkeley in 2014. Pix2pix is characterized by performing image processing using a technique called GAN (Generative Adversarial Network).
This paper introduces various image processing such as complementing missing images using pix2pix.
The number of learning data DL was 60, for example.
学習データ記憶部714は、学習データDLを記憶する。
The learning
学習済モデル記憶部715は、学習済モデルMDを記憶する。
The learned
[1-4.算出部による変位分布の算出方法]
次に、図4及び図5を参照して、算出部813による試験対象TPの表面の変位分布の算出方法について説明する。
図4は、本発明の実施形態に係るパターン画像PNの一例を示す図である。図4の左側のパターン画像PN1は、初期状態の試験対象TPのパターンPTNの一例を示す。パターンPTNは、格子状のパターンPTNを示す。すなわち、パターン画像PN1には、正方形状の黒塗り画像Qij(i=1~n,j=1~8)が左右方向及び上下方向に等間隔で配置されている。
黒塗り画像Qijのサイズは、例えば1辺が1mmの正方形である。黒塗り画像Qijは、左右方向及び上下方向に、例えば1mm間隔で配置される。
[1-4. Displacement distribution calculation method by calculation unit]
Next, a method of calculating the displacement distribution of the surface of the test object TP by the
FIG. 4 is a diagram showing an example of the pattern image PN according to the embodiment of the invention. The pattern image PN1 on the left side of FIG. 4 shows an example of the pattern PTN of the test target TP in the initial state. A pattern PTN indicates a grid-like pattern PTN. That is, in the pattern image PN1, square black-painted images Qij (i=1 to n, j=1 to 8) are arranged at regular intervals in the horizontal and vertical directions.
The size of the black-painted image Qij is, for example, a square with a side of 1 mm. The black-painted images Qij are arranged at intervals of, for example, 1 mm in the horizontal direction and the vertical direction.
本発明の実施形態では、黒塗り画像Qijのサイズは、例えば1辺が1mmの正方形であるが、1辺が1mmより大きい正方形、例えば、1辺が1.2mmの正方形、1辺が1.5mmの正方形、1辺が2mmの正方形等でもよい。また、黒塗り画像Qijのサイズは、1辺が1mmより小さい正方形、例えば、1辺が0.8mmの正方形、1辺が0.5mmの正方形、1辺が0.3mmの正方形等でもよい。 In the embodiment of the present invention, the size of the blackened image Qij is, for example, a square with a side of 1 mm, but a square with a side larger than 1 mm, for example, a square with a side of 1.2 mm and a side of 1.2 mm. A square of 5 mm, a square of 2 mm on each side, or the like may be used. Also, the size of the black-painted image Qij may be a square with one side smaller than 1 mm, for example, a square with one side of 0.8 mm, a square with one side of 0.5 mm, or a square with one side of 0.3 mm.
また、本発明の実施形態では、黒塗り画像Qijは、左右方向及び上下方向に、例えば1mm間隔で配置されるが、黒塗り画像Qijが、左右方向及び上下方向に、1mmより大きい間隔で配置されてもよい。黒塗り画像Qijが、左右方向及び上下方向に、例えば、1.2mm間隔、1.5mm間隔、2mm間隔等で配置されてもよい。また、黒塗り画像Qijが、左右方向及び上下方向に、1mmより小さい間隔で配置されてもよい。黒塗り画像Qijが、左右方向及び上下方向に、例えば、0.8mm間隔、0.5mm間隔、0.3mm間隔等で配置されてもよい。 In addition, in the embodiment of the present invention, the black-painted images Qij are arranged at intervals of, for example, 1 mm in the horizontal direction and the vertical direction. may be The black-painted images Qij may be arranged at intervals of 1.2 mm, 1.5 mm, 2 mm, etc. in the horizontal direction and the vertical direction. Also, the black-painted images Qij may be arranged at intervals of less than 1 mm in the horizontal direction and the vertical direction. The black-painted images Qij may be arranged at intervals of 0.8 mm, 0.5 mm, 0.3 mm, etc. in the horizontal direction and the vertical direction.
図4の右側のパターン画像PN2は、試験対象TPが上下方向に伸びた状態におけるパターンPTNの一例を示す。すなわち、パターン画像PN2には、方形状の黒塗り画像Rij(i=1~n,j=1~8)が左右方向及び上下方向に略等間隔で配置されている。 A pattern image PN2 on the right side of FIG. 4 shows an example of the pattern PTN in a state where the test object TP is vertically extended. That is, in the pattern image PN2, rectangular black-painted images Rij (i=1 to n, j=1 to 8) are arranged at approximately equal intervals in the horizontal and vertical directions.
図5は、本発明の実施形態に係る算出部813の変位分布算出処理の一例を示す図である。図5では、算出部813は、例えば、X軸方向の変位量を算出する。変位量の基準点は、最も上端に位置する黒塗り画像Q14、又は黒塗り画像R14の中心である。すなわち、黒塗り画像Ri4(i=2~n)と黒塗り画像R14との間隔を、黒塗り画像Qi4(i=2~n)と黒塗り画像Q14との間隔とを比較することによって、X軸方向の変位量を算出する。
FIG. 5 is a diagram showing an example of displacement distribution calculation processing of the
図5の最も上のグラフG11は、X軸方向の輝度Bの変化を正弦波近似したグラフである。グラフG11の横軸は、X軸であり、縦軸は、輝度Bである。黒塗り画像Ri4では輝度Bが低く、黒塗り画像Ri4と隣接する黒塗り画像R(i+1)4との間では、輝度Bが高い。したがって、X軸方向の輝度Bの変化は、図略の矩形状のグラフで表される。
グラフG11は、黒塗り画像Ri4と隣接する黒塗り画像R(i+1)4との間で、矩形状のグラフを正弦波で近似したグラフである。パターン画像PNが、パターン画像PN1である場合には、パターン画像PN1において黒塗り画像Qi4は、等間隔に形成されているため、グラフG11は、正弦波になる。
The uppermost graph G11 in FIG. 5 is a sine wave approximation of the change in luminance B in the X-axis direction. The horizontal axis of the graph G11 is the X-axis, and the vertical axis is the brightness B. FIG. The brightness B is low in the black-painted image Ri4, and the brightness B is high between the black-painted image Ri4 and the adjacent black-painted image R(i+1)4. Therefore, the change in luminance B in the X-axis direction is represented by an unillustrated rectangular graph.
A graph G11 is a graph obtained by approximating a rectangular graph with a sine wave between the black-painted image Ri4 and the adjacent black-painted image R(i+1)4. When the pattern image PN is the pattern image PN1, the black-painted images Qi4 are formed at equal intervals in the pattern image PN1, so the graph G11 becomes a sine wave.
図5の上から2番目のグラフG12は、グラフG11の位相を示すグラフである。グラフG12の横軸は、X軸であり、縦軸は、位相Qである。位相Qは、-πから+πまでの間で変化する。したがって、グラフG12は、鋸刃状のグラフになる。すなわち、グラフG12では、X座標の増加に伴って、位相が-πから+πまで直線状に増加し、位相が+πに到達した位置で、位相が-πにステップ状に減少する。 The second graph G12 from the top in FIG. 5 is a graph showing the phase of the graph G11. The horizontal axis of the graph G12 is the X axis, and the vertical axis is the phase Q. As shown in FIG. The phase Q varies between -π and +π. Therefore, the graph G12 becomes a serrated graph. That is, in graph G12, as the X coordinate increases, the phase increases linearly from -π to +π, and when the phase reaches +π, the phase decreases stepwise to -π.
図5の最も下側のグラフG13は、図5の上から2番目のグラフG12に対して、位相接続を行った後のグラフを示す。グラフG13の横軸は、X軸であり、縦軸は、位相φである。グラフG12では、位相が+πに到達した位置で位相が-πにステップ状に減少するが、グラフG13では、位相のステップ状の変化をさせないように、位相が+πから-πに減少する度に、位相を2×πだけ増加する。その結果,グラフG13では、X座標の増加に伴って位相φが直線状に増加する。 A graph G13 at the bottom of FIG. 5 shows a graph after performing phase unwrapping on the second graph G12 from the top of FIG. The horizontal axis of the graph G13 is the X axis, and the vertical axis is the phase φ. In the graph G12, the phase decreases stepwise to -π at the position where the phase reaches +π, but in the graph G13, every time the phase decreases from +π to -π , increases the phase by 2×π. As a result, in the graph G13, the phase φ increases linearly as the X coordinate increases.
グラフG14は、パターン画像PN2に対応する。グラフG14は、グラフG13と比較して傾斜が小さい。すなわち、グラフG13では、位相φが2×πだけ変化するためのX軸の座標の差が距離L1であるのに対して、グラフG14では、位相φが2×πだけ変化するためのX軸の座標の差が距離L2である。距離L2は、距離L1より大きい。距離L2と距離L1との差は、変位ΔLを示す。
このようにして、算出部813は、試験対象TPの表面の変位分布を算出することができる。
A graph G14 corresponds to the pattern image PN2. Graph G14 has a smaller slope than graph G13. That is, in the graph G13, the distance L1 is the difference in the X-axis coordinates for the phase φ to change by 2×π, whereas in the graph G14, the X-axis coordinate for the phase φ to change by 2×π is L1. is the distance L2. Distance L2 is greater than distance L1. The difference between the distance L2 and the distance L1 indicates the displacement .DELTA.L.
In this manner, the
[1-5.欠陥領域を含む場合の課題]
図6は、本発明の実施形態に係る欠落領域HLを含むパターン画像PN3の一例を示す図である。図6に示すパターン画像PN3は、試験対象TPが上下方向に伸びた状態におけるパターンPTNの一例を示す。すなわち、パターン画像PN3には、方形状の黒塗り画像Sij(i=1~n,j=1~8)が左右方向及び上下方向に略等間隔で配置されている。
[1-5. Issues when defect areas are included]
FIG. 6 is a diagram showing an example of the pattern image PN3 including the missing area HL according to the embodiment of the present invention. A pattern image PN3 shown in FIG. 6 shows an example of the pattern PTN in a state where the test object TP is vertically extended. That is, in the pattern image PN3, rectangular black-painted images Sij (i=1 to n, j=1 to 8) are arranged at approximately equal intervals in the horizontal and vertical directions.
また、パターン画像PN3には、欠落領域HLが形成されている。欠落領域HLは、パターン画像PN3の一部が欠落した領域を示す。図6に示す欠落領域HLは、円形状に形成される。欠落領域HLによって、4つの黒塗り画像Sij(i=5~6,j=4~5)が欠落している。X軸上においては、黒塗り画像S54と黒塗り画像S64とが欠落している。 A missing area HL is formed in the pattern image PN3. A missing area HL indicates an area where a part of the pattern image PN3 is missing. The missing region HL shown in FIG. 6 is formed in a circular shape. Four black-painted images Sij (i=5 to 6, j=4 to 5) are missing due to the missing area HL. The black-painted image S54 and the black-painted image S64 are missing on the X-axis.
図7は、欠落領域HLを含むパターン画像PN3に対して本発明の実施形態に係る変位分布算出処理を実行する場合の課題の一例を示す図である。
図7の最も上のグラフG21は、X軸方向の輝度Bの変化を正弦波近似したグラフである。グラフG21の横軸は、X軸であり、縦軸は、輝度Bである。欠落領域HLでは、黒塗り画像S54と黒塗り画像S64とが欠落しているため、輝度Bが、例えば試験対象TPを構成する材料の色に対応する。そこで、欠落領域HLでは、輝度Bが不規則に変化している。その結果、欠落領域HLでは、正弦波近似をすることができない。
FIG. 7 is a diagram showing an example of a problem when performing the displacement distribution calculation process according to the embodiment of the present invention on the pattern image PN3 including the missing area HL.
Graph G21 at the top of FIG. 7 is a graph obtained by sine wave approximation of the change in brightness B in the X-axis direction. The horizontal axis of graph G21 is the X-axis, and the vertical axis is luminance B. FIG. In the missing area HL, the black-painted image S54 and the black-painted image S64 are missing, so the brightness B corresponds to, for example, the color of the material that constitutes the test object TP. Therefore, in the missing area HL, the brightness B varies irregularly. As a result, sine wave approximation cannot be performed in the missing region HL.
図7の上から2番目のグラフG22は、グラフG21の位相を示すグラフである。グラフG22の横軸は、X軸であり、縦軸は、位相Qである。位相Qは、-πから+πまでの間で変化する。欠落領域HLでは、輝度Bが不規則に変化しているため、位相Qも、-πから+πまでの間で変化しているが、鋸刃状のグラフにはなっていない。 The second graph G22 from the top in FIG. 7 is a graph showing the phase of the graph G21. The horizontal axis of the graph G22 is the X axis, and the vertical axis is the phase Q. As shown in FIG. The phase Q varies between -π and +π. In the missing region HL, the luminance B varies irregularly, so the phase Q also varies between -π and +π, but the graph does not have a sawtooth shape.
図7の最も下側のグラフG23は、図7の上から2番目のグラフG22に対して、位相接続を行った後のグラフを示す。グラフG23の横軸は、X軸であり、縦軸は、位相φである。グラフG22では、位相が+πに到達した位置で位相が-πにステップ状に減少するが、グラフG23では、位相のステップ状の変化をさせないように、位相が+πから-πに減少する度に、位相を2×πだけ増加する。その結果,グラフG23では、X座標の増加に伴って位相φが増加する。ただし、グラフG23において欠落領域HLでは、X座標の増加に伴って位相φが不規則に変化しながら増加している。グラフG13では、X座標の増加に伴って位相φが直線状に増加するのに対して、グラフG23は、X座標の増加に伴って位相φが直線状には増加しない。そこで、このままでは、算出部813は、試験対象TPの表面の変位分布を算出することができないことになる。
本発明の実施形態では、この課題を解消するために、補完部812が、欠落領域HLに対応するパターン画像PNを補完して全体補完画像PCを生成する。算出部813は、全体補完画像PCに基づき、試験対象TPの表面の変位分布を算出する。
A graph G23 at the bottom of FIG. 7 shows a graph after performing phase unwrapping on the second graph G22 from the top of FIG. The horizontal axis of the graph G23 is the X axis, and the vertical axis is the phase φ. In graph G22, the phase decreases stepwise to -π at the position where the phase reaches +π, but in graph G23, every time the phase decreases from +π to -π , increases the phase by 2×π. As a result, in the graph G23, the phase φ increases as the X coordinate increases. However, in the missing region HL in the graph G23, the phase φ increases while irregularly changing as the X coordinate increases. In the graph G13, the phase φ increases linearly as the X coordinate increases, whereas in the graph G23, the phase φ does not linearly increase as the X coordinate increases. Therefore, in this state, the
In the embodiment of the present invention, in order to solve this problem, the
[1-6.学習データ]
図8は、本発明の第1実施形態に係る学習済モデルMDを生成する学習データDLの一例を示す図である。
学習データDLは、欠落領域HLを含むパターン画像PNの情報と、欠落領域HLを含まないパターン画像PMの情報とを対応付けたものである。欠落領域HLを含むパターン画像PNを、以下の説明では、欠落画像PNと記載する場合がある。
欠落領域HLを含まないパターン画像PMは、撮像部811によって生成される。欠落画像PNは、生成部712によって欠落領域HLを含まないパターン画像PMから生成される。
[1-6. learning data]
FIG. 8 is a diagram showing an example of learning data DL for generating a trained model MD according to the first embodiment of the present invention.
The learning data DL is obtained by associating the information of the pattern image PN including the missing area HL with the information of the pattern image PM not including the missing area HL. A pattern image PN including a missing region HL may be referred to as a missing image PN in the following description.
A pattern image PM that does not include the missing area HL is generated by the
図8の最も上段の左側に配置されたパターン画像PMは、欠落領域HLを含まないパターン画像PMの一例を示す。パターン画像PMは、横長の矩形状の画像であって、正方形状の黒塗り画像が左右方向及び上下方向に等間隔で配置されている。
図8の最も上段の右側に配置された欠落画像PNは、欠落領域HLを含むパターン画像の一例を示す。パターン画像PMの左側の上下方向中央部に矩形形状の欠落領域HLを配置することによって、欠落画像PNが生成されている。
The pattern image PM arranged on the left side of the uppermost row in FIG. 8 shows an example of the pattern image PM that does not include the missing area HL. The pattern image PM is a horizontally long rectangular image, and square black-painted images are arranged at equal intervals in the horizontal direction and the vertical direction.
A missing image PN arranged on the right side of the uppermost row in FIG. 8 shows an example of a pattern image including a missing region HL. A missing image PN is generated by arranging a rectangular missing region HL in the vertical central portion on the left side of the pattern image PM.
図8の上から2段目の左側に配置されたパターン画像PMは、欠落領域HLを含まないパターン画像PMの一例を示す。パターン画像PMは、正方形状の画像であって、正方形状の黒塗り画像が左右方向及び上下方向に等間隔で配置されている。黒塗り画像のサイズは、図8の最も上段の左側に配置されたパターン画像PMの黒塗り画像のサイズより小さい。
図8の上から2段目の右側に配置された欠落画像PNは、欠落領域HLを含むパターン画像の一例を示す。パターン画像PMの右端の上下方向中央部に矩形形状の欠落領域HLを配置することによって、欠落画像PNが生成されている。
The pattern image PM arranged on the left side of the second row from the top in FIG. 8 shows an example of the pattern image PM that does not include the missing area HL. The pattern image PM is a square-shaped image, and square-shaped black-painted images are arranged at regular intervals in the horizontal direction and the vertical direction. The size of the black-painted image is smaller than the size of the black-painted image of the pattern image PM arranged on the uppermost left side in FIG.
A missing image PN arranged on the right side of the second row from the top in FIG. 8 shows an example of a pattern image including a missing region HL. A missing image PN is generated by arranging a rectangular missing region HL in the vertical central portion of the right end of the pattern image PM.
図8の上から3段目の左側に配置されたパターン画像PMは、欠落領域HLを含まないパターン画像PMの一例を示す。パターン画像PMは、縦長の矩形状の画像であって、正方形状の黒塗り画像が左右方向及び上下方向に等間隔で配置されている。黒塗り画像のサイズは、図8の最も上段の左側に配置されたパターン画像PMの黒塗り画像のサイズより小さく、図8の上から2段目の左側に配置されたパターン画像PMの黒塗り画像のサイズより大きい。
図8の上から3段目の右側に配置された欠落画像PNは、欠落領域HLを含むパターン画像の一例を示す。欠落画像PNの左側の上部に縦長の楕円形状の欠落領域HLを配置することによって、欠落画像PNが生成されている。
The pattern image PM arranged on the left side of the third row from the top in FIG. 8 shows an example of the pattern image PM that does not include the missing area HL. The pattern image PM is a vertically long rectangular image, and square black-painted images are arranged at equal intervals in the horizontal direction and the vertical direction. The size of the black-painted image is smaller than the size of the black-painted image of the pattern image PM arranged on the left side of the uppermost row in FIG. Larger than the image size.
A missing image PN arranged on the right side of the third row from the top in FIG. 8 shows an example of a pattern image including a missing region HL. A missing image PN is generated by arranging a vertically long elliptical missing area HL on the upper left side of the missing image PN.
図8を参照して説明したように、生成部712は、決定部711が決定した位置PS及びサイズSZの所定形状の欠落画像PNを生成する。所定形状は、矩形形状を含む。すなわち、欠落領域HLを含まないパターン画像PMが1枚あれば、複数の欠落画像PNを生成できる。例えば、位置PSとして9箇所の位置のいずれかを選択し、サイズSZとして、4種類のサイズのいずれかを選択する場合には、36枚(=9×4)の欠落画像PNを生成できる。
したがって、生成部712は、決定部711が決定した位置PS及びサイズSZの所定形状の欠落画像PNを生成することによって、多数の欠落画像PNを生成できる。
As described with reference to FIG. 8, the
Therefore, the generating
また、学習済モデルMDは、欠落画像PNの情報が入力された場合に、全体補完画像PCの情報を出力するように学習部713によって機械学習される。全体補完画像PCは、欠落領域HLを含まないパターン画像PMに対応する。
Also, the learned model MD is machine-learned by the
[1-7.第2制御部の処理]
図9は、本発明の実施形態に係る第2制御部7の処理の一例を示すフローチャートである。なお、学習データ記憶部714には、欠落領域HLを含まない複数のパターン画像PMが予め記憶されている。
まず、ステップS101において、第2制御部7は、学習データ記憶部714からパターン画像PMを読み出す。
次に、ステップS103において、決定部711は、欠落領域HLの位置PS及びサイズSZを決定する。
次に、ステップS105において、生成部712は、パターン画像PMに基づいて、決定部711が決定した位置PS及びサイズSZの所定形状の欠落領域HLを含む欠落画像PNを生成する。所定形状は、例えば矩形形状である。
次に、ステップS107において、生成部712は、欠落画像PNとパターン画像PMとを対応付けて、学習データ記憶部714に記憶する。
[1-7. Processing of the second control unit]
FIG. 9 is a flow chart showing an example of processing of the
First, in step S<b>101 , the
Next, in step S103, the determining
Next, in step S105, the
Next, in step S<b>107 , the
次に、ステップS109において、決定部711は、サイズSZの決定を終了するか否かを判定する。
サイズSZの決定を終了しないと決定部711が判定した場合(ステップS109;NO)には、処理がステップS103に戻る。サイズSZの決定を終了すると決定部711が判定した場合(ステップS109;YES)には、処理がステップS111に進む。
そして、ステップS111において、決定部711は、位置PSの決定を終了するか否かを判定する。
位置PSの決定を終了しないと決定部711が判定した場合(ステップS111;NO)には、処理がステップS103に戻る。位置PSの決定を終了すると決定部711が判定した場合(ステップS111;YES)には、処理がステップS113に進む。
そして、ステップS113において、第2制御部7は、学習データ記憶部714からのパターン画像PMの読み出しを終了するか否かを判定する。
学習データ記憶部714からのパターン画像PMの読み出しを終了しないと第2制御部7が判定した場合(ステップS113;NO)には、処理がステップS101に戻る。学習データ記憶部714からのパターン画像PMの読み出しを終了すると第2制御部7が判定した場合(ステップS113;YES)には、処理がステップS115に進む。
そして、ステップS115において、学習部713が、学習データ記憶部714に記憶された学習データDLに基づき機械学習を実行し、学習済モデルMDを生成し、生成した学習済モデルMDを学習済モデル記憶部715に記憶し、処理が終了する。
Next, in step S109, the
When the determining
Then, in step S111, the
When the determining
Then, in step S113, the
When the
Then, in step S115, the
[1-8.補完部の処理における第1の例]
図10は、本発明の第1実施形態に係る補完部812の処理の第1の例を示す図である。
補完部812は、欠落領域HLを含むパターン画像PNの情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PMの情報を、学習済モデルMDから出力させる。
そして、補完部812は、パターン画像PMから欠落領域HLに対応する欠落補完画像PCHを切り出す切出処理を実行する。
次に、補完部812は、欠落補完画像PCHと、欠落領域HLを含むパターン画像PNと、を合成することによって、全体補完画像PCを生成する。
このようにして、補完部812は、全体補完画像PCを生成する。
[1-8. First example in the processing of the complementing unit]
FIG. 10 is a diagram showing a first example of processing of the
The
Then, the
Next, the
Thus, the
なお、パターン画像PMを全体補完画像PCとして用いない理由は、欠落領域HL以外の領域においてパターン画像が歪んでいるパターン画像PMが、学習済モデルMDから出力される場合があるからである。
このような場合であっても、補完部812は、欠落補完画像PCHと、欠落領域HLを含むパターン画像PNと、を合成することによって、全体補完画像PCを生成するため、歪んだパターン画像PMが全体補完画像PCに含まれることを抑制できる。
The reason why the pattern image PM is not used as the overall complement image PC is that the pattern image PM whose pattern image is distorted in areas other than the missing area HL may be output from the learned model MD.
Even in such a case, the
[1-9.補完部の処理における第2の例]
図11は、本発明の第1実施形態に係る補完部812の処理の第2の例を示す図である。第2の例では、図11に示すように、撮像部811が、欠落領域HLを含むパターン画像PNを生成する度に、補完部812は、図10を参照して説明した処理を実行する。
[1-9. Second example of the processing of the complementing unit]
FIG. 11 is a diagram showing a second example of processing of the
撮像部811は、例えば、時間T1と時間T2と時間T3とにおいて、欠落領域HLを含むパターン画像PNを生成する。時間T1において生成されるパターン画像PNをパターン画像PK1と記載する場合がある。時間T2において生成されるパターン画像PNをパターン画像PK2と記載する場合がある。時間T3において生成されるパターン画像PNをパターン画像PK3と記載する場合がある。時間T1と時間T2との間は、所定時間であり、時間T2と時間T3との間は、所定時間である。所定時間は、例えば0.01秒である。
The
補完部812は、欠落領域HLを含むパターン画像PK1の情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PM1の情報を、学習済モデルMDから出力させる。
そして、補完部812は、パターン画像PM1から欠落領域HLに対応する欠落補完画像PCH1を切り出す切出処理を実行する。
次に、補完部812は、欠落補完画像PCH1と、欠落領域HLを含むパターン画像PK1と、を合成することによって、全体補完画像PC1を生成する。
The
Then, the
Next, the
また、補完部812は、欠落領域HLを含むパターン画像PK2の情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PM2の情報を、学習済モデルMDから出力させる。
そして、補完部812は、パターン画像PM2から欠落領域HLに対応する欠落補完画像PCH2を切り出す切出処理を実行する。
次に、補完部812は、欠落補完画像PCH2と、欠落領域HLを含むパターン画像PK2と、を合成することによって、全体補完画像PC2を生成する。
Further, the
Then, the
Next, the
また、補完部812は、欠落領域HLを含むパターン画像PK3の情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PM3の情報を、学習済モデルMDから出力させる。
そして、補完部812は、パターン画像PM3から欠落領域HLに対応する欠落補完画像PCH3を切り出す切出処理を実行する。
次に、補完部812は、欠落補完画像PCH3と、欠落領域HLを含むパターン画像PK3と、を合成することによって、全体補完画像PC3を生成する。
Further, the
Then, the
Next, the
上記第2の例における第1制御部8の処理を説明する。
図12は、第2の例における第1制御部8の処理の一例を示すフローチャートである。
まず、ステップS201において、第1制御部8は、引張試験機1が引張試験を開始したか否かを判定する。
引張試験機1が引張試験を開始していないと第1制御部8が判定した場合(ステップS201;NO)には、処理が待機状態になる。引張試験機1が引張試験を開始したと第1制御部8が判定した場合(ステップS201;YES)には、処理がステップS203に進む。
そして、ステップS203において、撮像部811は、撮像タイミングであるか否かを判定する。撮像タイミングは、カメラ6が撮像を実行するタイミングを示す。
撮像タイミングではないと撮像部811が判定した場合(ステップS203;NO)には、処理が待機状態になる。撮像タイミングであると撮像部811が判定した場合(ステップS203;YES)には、処理がステップS205に進む。
そして、ステップS205において、撮像部811が、カメラ6にパターンPTNを撮像させて、パターンPTNの画像を示すパターン画像PNを生成する。
The processing of the
FIG. 12 is a flow chart showing an example of processing of the
First, in step S201, the
When the
Then, in step S203, the
When the
Then, in step S205, the
次に、ステップS207において、第1制御部8は、パターン画像PNが欠落領域HLを含むか否かを判定する。
パターン画像PNが欠落領域HLを含まないと第1制御部8が判定した場合(ステップS207;NO)には、処理がステップS215に進む。パターン画像PNが欠落領域HLを含むと第1制御部8が判定した場合(ステップS207;YES)には、処理がステップS209に進む。
そして、ステップS209において、補完部812は、欠落領域HLを含むパターン画像PNの情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PMの情報を、学習済モデルMDから出力させる。
次に、ステップS211において、補完部812は、パターン画像PMから欠落領域HLに対応する欠落補完画像PCHを切り出す切出処理を実行する。
次に、ステップS213において、補完部812は、欠落補完画像PCHと、欠落領域HLを含むパターン画像PNと、を合成することによって、全体補完画像PCを生成する。
Next, in step S207, the
When the
Then, in step S209, the
Next, in step S211, the
Next, in step S213, the
次に、ステップS215において、算出部813は、全体補完画像PCに基づき、試験対象TPの表面の変位分布を算出する。
次に、ステップS217において、第1制御部8は、引張試験機1が引張試験を終了したか否かを判定する。
引張試験機1が引張試験を終了していないと第1制御部8が判定した場合(ステップS217;NO)には、処理がステップS203に戻る。引張試験機1が引張試験を終了したと第1制御部8が判定した場合(ステップS217;YES)には、処理が終了する。
Next, in step S215, the
Next, in step S217, the
When the
ステップS205が「撮像ステップ」の一例に対応する。ステップS209、ステップS211及びステップS213が、「補完ステップ」の一例に対応する。ステップS215が「算出ステップ」の一例に対応する。 Step S205 corresponds to an example of the "imaging step". Steps S209, S211 and S213 correspond to an example of the "complementary step". Step S215 corresponds to an example of the "calculation step".
[1-10.補完部の処理における第3の例]
図13は、本発明の第1実施形態に係る補完部812の処理の第3の例を示す図である。第3の例では、撮像部811が、欠落領域HLを含むパターン画像PNを初めて生成したときに限って、補完部812は、図10を参照して説明した処理を実行する。
[1-10. Third example of the processing of the complementing unit]
FIG. 13 is a diagram showing a third example of processing of the
撮像部811は、例えば、時間T1と時間T2と時間T3とにおいて、欠落領域HLを含むパターン画像PNを生成する。時間T1において生成されるパターン画像PNをパターン画像PK1と記載する場合がある。時間T2において生成されるパターン画像PNをパターン画像PK2と記載する場合がある。時間T3において生成されるパターン画像PNをパターン画像PK3と記載する場合がある。時間T1と時間T2との間は、所定時間であり、時間T2と時間T3との間は、所定時間である。所定時間は、例えば、0.01秒である。
The
補完部812は、欠落領域HL1を含むパターン画像PK1の情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PM1の情報を、学習済モデルMDから出力させる。
そして、補完部812は、パターン画像PM1から欠落領域HL1に対応する欠落補完画像PCH1を切り出す切出処理を実行する。
次に、補完部812は、欠落補完画像PCH1と、欠落領域HL1を含むパターン画像PK1と、を合成することによって、全体補完画像PC1を生成する。
The
Then, the
Next, the
また、補完部812は、パターン画像PK1に含まれる欠落領域HL1と、パターン画像PK2に含まれる欠落領域HL2とに基づき、欠落補完画像PCH1に対して射影変換を実行して、欠落補完画像PCH2を生成する。具体的には、補完部812は、欠落補完画像PCH2のサイズが、欠落領域HL2のサイズと一致するように、欠落補完画像PCH1に対して射影変換を実行して、欠落補完画像PCH2を生成する。
パターン画像PK1は、「第1のパターン画像」の一例に対応する。パターン画像PK2は、「第2のパターン画像」の一例に対応する。欠落補完画像PCH1は、「第1の補完画像」の一例に対応する。欠落補完画像PCH2は、「第2の補完画像」の一例に対応する。
そして、補完部812は、欠落補完画像PCH2と、パターン画像PK2と、を合成することによって、全体補完画像PC2を生成する。
Further, the
The pattern image PK1 corresponds to an example of a "first pattern image". The pattern image PK2 corresponds to an example of a "second pattern image". Missing complement image PCH1 corresponds to an example of "first complement image". The missing complement image PCH2 corresponds to an example of a “second complement image”.
Then, the
また、補完部812は、パターン画像PK1に含まれる欠落領域HL1と、パターン画像PK3に含まれる欠落領域HL3とに基づき、欠落補完画像PCH1に対して射影変換を実行して、欠落補完画像PCH3を生成する。具体的には、補完部812は、欠落補完画像PCH3のサイズが、欠落領域HL3のサイズと一致するように、欠落補完画像PCH1に対して射影変換を実行して、欠落補完画像PCH3を生成する。
パターン画像PK3は、「第2のパターン画像」の一例に対応する。欠落補完画像PCH3は、「第2の補完画像」の一例に対応する。
そして、補完部812は、欠落補完画像PCH3と、パターン画像PK3と、を合成することによって、全体補完画像PC3を生成する。
Further, the
The pattern image PK3 corresponds to an example of a "second pattern image". The missing complement image PCH3 corresponds to an example of a “second complement image”.
Then, the
上記第3の例における第1制御部8の処理を説明する。
図14は、第3の例における第1制御部8の処理の一例を示すフローチャートである。
まず、ステップS301において、第1制御部8は、引張試験機1が引張試験を開始したか否かを判定する。
引張試験機1が引張試験を開始していないと第1制御部8が判定した場合(ステップS301;NO)には、処理が待機状態になる。引張試験機1が引張試験を開始したと第1制御部8が判定した場合(ステップS301;YES)には、処理がステップS303に進む。
そして、ステップS303において、撮像部811は、撮像タイミングであるか否かを判定する。撮像タイミングは、カメラ6が撮像を実行するタイミングを示す。
撮像タイミングではないと撮像部811が判定した場合(ステップS303;NO)には、処理が待機状態になる。撮像タイミングであると撮像部811が判定した場合(ステップS303;YES)には、処理がステップS305に進む。
そして、ステップS305において、撮像部811が、カメラ6にパターンPTNを撮像させて、パターンPTNの画像を示すパターン画像PNを生成する。
The processing of the
FIG. 14 is a flowchart showing an example of processing of the
First, in step S301, the
When the
Then, in step S303, the
When the
Then, in step S305, the
次に、ステップS307において、第1制御部8は、パターン画像PNが欠落領域HLを含むか否かを判定する。
パターン画像PNが欠落領域HLを含まないと第1制御部8が判定した場合(ステップS307;NO)には、処理がステップS321に進む。パターン画像PNが欠落領域HLを含むと第1制御部8が判定した場合(ステップS307;YES)には、処理がステップS309に進む。
そして、ステップS309において、第1制御部8は、欠落補完画像PCHを生成済であるか否かを判定する。
欠落補完画像PCHを生成済ではないと第1制御部8が判定した場合(ステップS309;NOS)には、処理がステップS311に進む。
そして、ステップS311において、補完部812は、欠落領域HLを含むパターン画像PNの情報を、学習済モデルMDに入力し、欠落領域HLを含まないパターン画像PMの情報を、学習済モデルMDから出力させる。
次に、ステップS313において、補完部812は、パターン画像PMから欠落領域HLに対応する欠落補完画像PCHを切り出す切出処理を実行する。そして、処理がステップS319に進む。
Next, in step S307, the
When the
Then, in step S309, the
When the
Then, in step S311, the
Next, in step S313, the
欠落補完画像PCHを生成済であると第1制御部8が判定した場合(ステップS309;YES)には、処理がステップS315に進む。
そして、ステップS315において、補完部812は、欠落領域HLのサイズを取得する。
次に、ステップS317において、補完部812は、欠落領域HLのサイズに基づき、欠落補完画像PCHに対して射影変換を実行して、欠落補完画像PCHを生成する。
次に、ステップS319において、補完部812は、欠落補完画像PCHと、欠落領域HLを含むパターン画像PNと、を合成することによって、全体補完画像PCを生成する。
When the
Then, in step S315, the
Next, in step S317, the
Next, in step S319, the
次に、ステップS321において、算出部813は、全体補完画像PCに基づき、試験対象TPの表面の変位分布を算出する。
次に、ステップS323において、第1制御部8は、引張試験機1が引張試験を終了したか否かを判定する。
引張試験機1が引張試験を終了していないと第1制御部8が判定した場合(ステップS323;NO)には、処理がステップS303に戻る。引張試験機1が引張試験を終了したと第1制御部8が判定した場合(ステップS323;YES)には、処理が終了する。
Next, in step S321, the
Next, in step S323, the
When the
ステップS205が「撮像ステップ」の一例に対応する。ステップS311、ステップS313、ステップS315、ステップS317及びステップS319が、「補完ステップ」の一例に対応する。ステップS321が「算出ステップ」の一例に対応する。 Step S205 corresponds to an example of the "imaging step". Step S311, step S313, step S315, step S317 and step S319 correspond to an example of the "complementary step". Step S321 corresponds to an example of the "calculation step".
[補完部812の第2実施形態]
図15は、補完部812の第2実施形態の一例を示す図である。
補完部812の第1実施形態では、補完部812が学習済モデルMDを用いて補完画像PCを生成したが、補完部812の第2実施形態では、補完部812が学習済モデルMDを用いることなく補完画像PCを生成する。
より詳細には、補完部812が、欠落領域HLに対応するパターン画像PNを補完して補完画像PCを生成すればよい。
図15に示すように、補完部812が、例えば、欠落領域HLの周囲のパターン画像PNから、欠落領域HLと同一のサイズのパターン画像PCAをコピーする。そして、補完部812が、コピーしたパターン画像PCAを欠落領域HLに嵌め込むことによって補完画像PCを生成してもよい。
この処理において、コピーするパターン画像PCAを決定する処理は、ユーザからの操作に従って実行してもよい。
なお、パターン画像PCAは、欠落領域HLに近接する位置からコピーすることが好ましい。この場合には、パターン画像PCAにおける変位が、欠落領域HLにおけるパターン画像PNの変位と近似するからである。
[Second Embodiment of Complementary Unit 812]
FIG. 15 is a diagram showing an example of the second embodiment of the
In the first embodiment of the
More specifically, the
As shown in FIG. 15, the
In this process, the process of determining the pattern image PCA to be copied may be executed according to the user's operation.
Note that the pattern image PCA is preferably copied from a position close to the missing area HL. This is because, in this case, the displacement in the pattern image PCA approximates the displacement in the pattern image PN in the missing area HL.
[6.態様と効果]
上述した実施形態及び変形例は、以下の態様の具体例であることが当業者により理解される。
[6. mode and effect]
It will be understood by those skilled in the art that the above-described embodiments and modifications are specific examples of the following aspects.
(第1項)
一態様に関わる変位分布計測装置は、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測装置であって、前記パターンの画像を示すパターン画像を生成する撮像部と、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部と、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部と、を備える、変位分布計測装置である。
(Section 1)
A displacement distribution measuring device according to one aspect is a displacement distribution measuring device for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object, the displacement distribution measuring device comprising: a pattern image showing the image of the pattern; a complementing unit for generating a complementary image by complementing the pattern image corresponding to the missing region when the pattern image includes a missing region in which a part of the pattern image is missing; and a calculation unit that calculates the displacement distribution of the surface of the object based on the complementary image.
第1項に記載の変位分布計測装置によれば、パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、補完部が、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成し、算出部が、前記補完画像に基づき、前記物体の表面の変位分布を算出する。したがって、パターン画像の一部が欠落した場合であっても、物体の表面の変位分布を算出できる。 According to the displacement distribution measuring device according to item 1, when the pattern image includes a missing region in which a part of the pattern image is missing, the complementing unit complements the pattern image corresponding to the missing region. A complementary image is generated, and a calculation unit calculates the displacement distribution of the surface of the object based on the complementary image. Therefore, even if part of the pattern image is missing, the displacement distribution of the surface of the object can be calculated.
(第2項)
第1項に記載の変位分布計測装置において、前記補完部は、前記欠落領域を含む前記パターン画像の情報と、前記欠落領域に対応する前記パターン画像が補完された前記補完画像の情報とを対応付けた学習データに基づき生成された学習済モデル、を備える。
(Section 2)
In the displacement distribution measuring device according to item 1, the complementing unit associates information of the pattern image including the missing area with information of the complemented image obtained by complementing the pattern image corresponding to the missing area. and a trained model generated based on the attached training data.
第2項に記載の変位分布計測装置によれば、前記補完部は、前記欠落領域を含む前記パターン画像の情報と、前記欠落領域に対応する前記パターン画像が補完された前記補完画像の情報とを対応付けた学習データに基づき生成された学習済モデル、を備える。したがって、学習済モデルを用いて、前記補完画像を容易に求めることができる。 According to the displacement distribution measuring device according to the second aspect, the complementing unit includes information of the pattern image including the missing area, and information of the complemented image in which the pattern image corresponding to the missing area is complemented. and a trained model generated based on learning data associated with. Therefore, the complemented image can be easily obtained using the learned model.
(第3項)
第2項に記載の変位分布計測装置において、前記補完部は、前記欠落領域を含む前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する前記補完画像の情報を、前記学習済モデルから出力させる。
(Section 3)
In the displacement distribution measuring device according to
第3項に記載の変位分布計測装置によれば、前記補完部は、前記欠落領域を含む前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する前記補完画像の情報を、前記学習済モデルから出力させる。したがって、学習済モデルを用いて、前記欠落領域に対応する前記補完画像を容易に求めることができる。 According to the displacement distribution measuring device according to the third aspect, the complementing unit inputs the information of the pattern image including the missing region to the learned model, and the complemented image information corresponding to the missing region. is output from the learned model. Therefore, it is possible to easily obtain the complemented image corresponding to the missing region using the learned model.
(第4項)
第3項に記載の変位分布計測装置において、前記補完部は、前記欠落領域を含む前記パターン画像と、前記欠落領域に対応する前記補完画像と、を合成することによって、前記補完画像を生成する。
(Section 4)
In the displacement distribution measuring device according to item 3, the complementing unit generates the complementary image by synthesizing the pattern image including the missing region and the complementary image corresponding to the missing region. .
第4項に記載の変位分布計測装置によれば、前記補完部は、前記欠落領域を含む前記パターン画像と、前記欠落領域に対応する前記補完画像と、を合成することによって、前記補完画像を生成する。したがって、前記補完部は、正確な補完画像を生成できる。
According to the displacement distribution measuring device according to
(第5項)
第2項から第4項のいずれか1項に記載の変位分布計測装置において、前記撮像部は、所定時間毎に前記パターン画像を生成し、前記補完部は、前記撮像部が前記パターン画像を生成する度に、前記補完画像を生成する。
(Section 5)
In the displacement distribution measuring device according to any one of
第5項に記載の変位分布計測装置によれば、前記撮像部は、所定時間毎に前記パターン画像を生成し、前記補完部は、前記撮像部が前記パターン画像を生成する度に、前記補完画像を生成する。したがって、所定時間毎の変位分布を算出できる。 According to the displacement distribution measuring device according to item 5, the imaging unit generates the pattern image every predetermined time, and the complementing unit generates the pattern image each time the imaging unit generates the pattern image. Generate an image. Therefore, it is possible to calculate the displacement distribution for each predetermined time.
(第6項)
第5項に記載の変位分布計測装置において、前記補完部は、前記パターン画像が前記欠落領域を含む場合には、前記撮像部が前記パターン画像を生成する度に、前記欠落領域を含む前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する前記補完画像の情報を前記学習済モデルから出力させることによって、前記補完画像を生成する。
(Section 6)
6. In the displacement distribution measuring device according to claim 5, when the pattern image includes the missing area, the complementing section adjusts the pattern including the missing area each time the imaging section generates the pattern image. The complemented image is generated by inputting image information into the trained model and causing the trained model to output information of the complemented image corresponding to the missing region.
第6項に記載の変位分布計測装置によれば、前記補完部は、前記撮像部が前記パターン画像を生成する度に、前記欠落領域を含む前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する前記補完画像の情報を前記学習済モデルから出力させることによって、前記補完画像を生成する。したがって、前記撮像部が前記パターン画像を生成する度に、前記欠落領域に対応する前記補完画像の情報を前記学習済モデルから出力させることによって、前記補完画像を生成するため、正確な補完画像を生成できる。
According to the displacement distribution measuring device according to
(第7項)
第5項に記載の変位分布計測装置において、前記補完部は、前記パターン画像が前記欠落領域を含む場合に、前記欠落領域を含む第1の前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する第1の前記補完画像の情報を前記学習済モデルから出力させることによって、前記補完画像を生成し、前記第1の前記パターン画像の後に、前記撮像部が第2の前記パターン画像を生成する度に、前記第2の前記パターン画像における前記欠落領域に対応する第2の前記補完画像を、前記欠落領域の変形に応じて前記第1の前記補完画像を射影変換することによって生成する。
(Section 7)
In the displacement distribution measuring device according to item 5, when the pattern image includes the missing region, the complementing unit inputs information of the first pattern image including the missing region to the learned model. and outputting the information of the first complementary image corresponding to the missing region from the learned model to generate the complementary image, and after the first pattern image, the imaging unit outputs the second each time the pattern image is generated, the second complement image corresponding to the missing area in the second pattern image is projectively transformed into the first complement image according to the deformation of the missing area generated by
第7項に記載の変位分布計測装置によれば、前記第1の前記パターン画像の後に、前記撮像部が第2の前記パターン画像を生成する度に、前記第2の前記パターン画像における前記欠落領域に対応する第2の前記補完画像を、前記欠落領域の変形に応じて前記第1の前記補完画像を射影変換することによって生成する。したがって、第2の前記補完画像を、前記欠落領域の変形に応じて前記第1の前記補完画像を射影変換することによって生成するため、簡素な処理で第2の前記補完画像を生成できる。
According to the displacement distribution measuring device according to
(第8項)
第1項から第7項のいずれか1項に記載の変位分布計測装置において、前記パターンは、格子状のパターンを示す。
(Section 8)
In the displacement distribution measuring device according to any one of items 1 to 7, the pattern is a lattice pattern.
第8項に記載の変位分布計測装置によれば、パターンは、格子状のパターンであるため、物体の表面の変位分布を容易に算出できる。 According to the displacement distribution measuring device according to the eighth aspect, since the pattern is a lattice pattern, the displacement distribution on the surface of the object can be easily calculated.
(第9項)
第8項に記載の変位分布計測装置において、前記算出部は、前記格子の間隔の変化量を算出することによって、前記物体の表面の変位分布を算出する。
(Section 9)
In the displacement distribution measuring device according to
第9項に記載の変位分布計測装置によれば、前記算出部は、前記格子の間隔の変化量を算出することによって、前記物体の表面の変位分布を算出する。したがって、前記物体の表面の変位分布を正確に算出できる。 According to the displacement distribution measuring device according to the ninth aspect, the calculation unit calculates the displacement distribution of the surface of the object by calculating the amount of change in the grid spacing. Therefore, the displacement distribution on the surface of the object can be accurately calculated.
(第10項)
第1項から第9項のいずれか1項に記載の変位分布計測装置において、前記物体は、材料試験機によって変形される試験対象である。
(Section 10)
In the displacement distribution measuring device according to any one of items 1 to 9, the object is a test object that is deformed by a material testing machine.
第10項に記載の変位分布計測装置によれば、前記物体は、材料試験機によって変形される試験材料であるため、材料試験機によって変形される試験材料の表面の変位分布を正確に算出できる。
According to the displacement distribution measuring device of
(第11項)
第10項に記載の変位分布計測装置において、前記材料試験機は、引張試験機であって、前記試験対象には、前記欠落領域として円形状の孔が形成される。
(Section 11)
In the displacement distribution measuring device according to
第11項に記載の変位分布計測装置によれば、前記試験材料には、前記欠落領域として円形状の孔が形成される。このように、前記欠落領域が存在する場合であっても、補完部が、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成するため、材料試験機によって変形される試験材料の表面の変位分布を正確に算出できる。 According to the displacement distribution measuring device according to item 11, a circular hole is formed in the test material as the missing region. Thus, even if the missing area exists, the complementing unit complements the pattern image corresponding to the missing area to generate a complemented image, so that the test material deformed by the material testing machine The surface displacement distribution can be calculated accurately.
(第12項)
第1項から第9項のいずれか1項に記載の変位分布計測装置において、前記物体は、橋梁を含む構造物である。
(Section 12)
In the displacement distribution measuring device according to any one of items 1 to 9, the object is a structure including a bridge.
第12項に記載の変位分布計測装置によれば、前記物体は、橋梁を含む構造物であるため、橋梁を含む構造物の表面の変位分布を正確に算出できる。
According to the displacement distribution measuring device of
(第13項)
一態様に関わる変位分布計測方法は、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測方法であって、前記パターンの画像を示すパターン画像を生成する撮像ステップと、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完ステップと、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出ステップと、を含む、変位分布計測方法である。
(Section 13)
A displacement distribution measuring method according to one aspect is a displacement distribution measuring method for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object, the displacement distribution measuring method comprising: a pattern image showing the image of the pattern; when the pattern image includes a missing region in which a part of the pattern image is missing, a complementing step of complementing the pattern image corresponding to the missing region to generate a complemented image; and a calculation step of calculating the displacement distribution of the surface of the object based on the complemented image.
第13項に記載の変位形状検出方法によれば、第1項に記載の変位分布計測装置と同様の効果を奏する。 According to the displacement shape detection method described in the thirteenth item, the same effects as those of the displacement distribution measuring device described in the first item can be obtained.
(第14項)
一態様に関わる変位分布計測装置の制御プログラムは、コンピュータを備え、物体の表面に形成されたパターンの画像に基いて、前記物体の表面の変位分布を計測する変位分布計測装置の制御プログラムであって、前記コンピュータを、前記パターンの画像を示すパターン画像を生成する撮像部、前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部、及び、前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部、として機能させる、変位分布計測装置の制御プログラムである。
(Section 14)
A control program for a displacement distribution measuring device according to one aspect is a control program for a displacement distribution measuring device that includes a computer and measures the displacement distribution on the surface of the object based on an image of a pattern formed on the surface of the object. an imaging unit for generating a pattern image representing an image of the pattern; A control program for a displacement distribution measuring device that functions as a complementing unit that complements and generates a complementary image, and a calculating unit that calculates the displacement distribution of the surface of the object based on the complementary image.
第14項に記載の変位分布計測装置の制御プログラムによれば、第1項に記載の変位分布計測装置と同様の効果を奏する。 According to the control program for the displacement distribution measuring device according to the 14th item, the same effect as the displacement distribution measuring device according to the 1st item can be obtained.
[7.その他の実施形態]
本発明の実施形態では、物体が引張試験機1の試験対象TPである場合について説明したが、物体が橋梁を含む構造物であってもよい。物体が橋梁である場合には、例えば、主桁の側面にパターンを形成する。この場合には、例えば、主桁の上下方向及び左右方向の変位分布を計測できる。
[7. Other embodiments]
Although the embodiment of the present invention describes the case where the object is the test target TP of the tensile tester 1, the object may be a structure including a bridge. If the object is a bridge, for example, the pattern is formed on the sides of the main girder. In this case, for example, vertical and horizontal displacement distributions of the main girder can be measured.
また、本発明の実施形態では、材料試験機が引張試験機1である場合について説明したが、本発明の実施形態はこれに限定されない。材料試験機が試験対象TPに試験力を付与し、試験対象TPを変形させて材料試験を行えばよい。例えば、材料試験機が、圧縮試験機、曲げ試験機、又はねじり試験機でもよい。 Also, in the embodiment of the present invention, the case where the material testing machine is the tensile tester 1 has been described, but the embodiment of the present invention is not limited to this. A material test may be performed by applying a test force to the test object TP by the material testing machine to deform the test object TP. For example, the materials tester may be a compression tester, bend tester, or torsion tester.
また、本発明の実施形態では、パターン画像PNがパターン画像PNの一部が欠落した欠落領域HLを含む場合について説明したが、本発明の実施形態は、これに限定されない。例えば、試験対象TPの一部に孔が形成されている形態でもよい。ASTM(American Society for Testing and Materials)規格のD6484では、試験対象TPの一部に孔が形成されている。 Further, in the embodiment of the present invention, the case where the pattern image PN includes the missing area HL in which a part of the pattern image PN is missing has been described, but the embodiment of the present invention is not limited to this. For example, a form in which a hole is formed in a part of the test target TP may be used. According to ASTM (American Society for Testing and Materials) standard D6484, a hole is formed in a part of the TP to be tested.
また、本発明の実施形態では、第1制御部8が、撮像部811、補完部812及び算出部813として機能する場合について説明したが、本発明の実施形態はこれに限定されない。制御回路ユニット50が、撮像部811、補完部812及び算出部813のうちの少なくとも1つとして機能してもよい。例えば、制御回路ユニット50が、撮像部811、補完部812及び算出部813として機能してもよい。
Also, in the embodiment of the present invention, the case where the
なお、本発明の実施形態に係る変位分布計測装置200は、あくまでも本発明に係る変位分布計測装置の態様の例示であり、本発明の主旨を逸脱しない範囲において任意に変形および応用が可能である。
Note that the displacement
なお、本発明の実施形態では、「pix2pix」の学習アルゴリズムに基づき学習ステップを説明したが、ディープラーニングを用いないアルゴリズム、例えばSVM(Sapport Vector Machine)やユーザが学習パラメータを直接指定する機械学習でもよい。また、学習による推定ではなく、数理モデルにより定められる決定論的な推定方法を用いても良い。 In the embodiment of the present invention, the learning step has been described based on the "pix2pix" learning algorithm. good. Also, a deterministic estimation method determined by a mathematical model may be used instead of estimation by learning.
1 引張試験機(材料試験機)
2 引張試験機本体
4 制御ユニット
6 カメラ
7 第2制御部
8 第1制御部
10 クロスヘッド
12 負荷機構
14 ロードセル
15 サーボモータ
20 ロータリエンコーダ
21 上つかみ具
22 下つかみ具
26 テーブル
28、29 ねじ棹
30 統括制御装置
32 表示装置
34 試験プログラム実行装置
40 信号入出力ユニット
42 センサアンプ
43 カウンタ回路
44 サーボアンプ
50 制御回路ユニット
200 変位分布計測装置
71A 第2プロセッサ
71B 第2メモリデバイス
71C 第2ストレージ装置
71D 第2通信装置
711 決定部
712 生成部
713 学習部
714 学習データ記憶部
715 学習済モデル記憶部
81A 第1プロセッサ(コンピュータ)
81B 第1メモリデバイス
81C 第1ストレージ装置
81D 第1通信装置
811 撮像部
812 補完部
813 算出部
814 学習モデル記憶部
DL 学習データ
HL 欠落領域
MD 学習済モデル
PC、PC1、PC2、PC3 全体補完画像(補完画像)
PCH、PCH1、PCH2、PCH3 欠落補完画像
PK1、PK2、PK3 パターン画像
PM パターン画像
PN、PN1、PN2、PN3 パターン画像
PS 位置
PTN パターン
Qij、Rij、Sij 黒塗り画像
SZ サイズ
TP 試験対象
TP1 特定面
1 Tensile tester (material tester)
2 Tensile test machine
81B First memory device 81C First storage device 81D
PCH, PCH1, PCH2, PCH3 Missing complement image PK1, PK2, PK3 Pattern image PM Pattern image PN, PN1, PN2, PN3 Pattern image PS Position PTN Pattern Qij, Rij, Sij Black-painted image SZ Size TP Test object TP1 Specific surface
Claims (14)
前記パターンの画像を示すパターン画像を生成する撮像部と、
前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部と、
前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部と、
を備える、変位分布計測装置。 A displacement distribution measuring device for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object,
an imaging unit that generates a pattern image representing an image of the pattern;
a complementing unit that complements the pattern image corresponding to the missing region to generate a complementary image when the pattern image includes a missing region in which a part of the pattern image is missing;
a calculation unit that calculates a displacement distribution of the surface of the object based on the complemented image;
A displacement distribution measuring device.
前記補完部は、前記撮像部が前記パターン画像を生成する度に、前記補完画像を生成する、請求項3又は請求項4のいずれか1項に記載の変位分布計測装置。 The imaging unit generates the pattern image every predetermined time,
5. The displacement distribution measuring device according to claim 3 , wherein the complementing section generates the complementary image each time the imaging section generates the pattern image.
前記パターン画像が前記欠落領域を含む場合に、前記欠落領域を含む第1の前記パターン画像の情報を、前記学習済モデルに入力し、前記欠落領域に対応する前記パターン画像を示す第1の前記欠落補完画像の情報を前記学習済モデルから出力させることによって、前記欠落補完画像を生成し、
前記第1の前記パターン画像の後に、前記撮像部が第2の前記パターン画像を生成する度に、前記第2の前記パターン画像における前記欠落領域に対応する前記パターン画像を示す第2の前記欠落補完画像を、前記欠落領域の変形に応じて前記第1の前記欠落補完画像を射影変換することによって生成する、請求項5に記載の変位分布計測装置。 The complementing unit
When the pattern image includes the missing area, information of the first pattern image including the missing area is input to the trained model, and the first pattern image representing the pattern image corresponding to the missing area is generated. generating the missing complement image by outputting information of the missing complement image from the learned model;
After the first pattern image, every time the imaging unit generates the second pattern image, the second missing pattern image showing the pattern image corresponding to the missing region in the second pattern image. 6. The displacement distribution measuring device according to claim 5, wherein a complemented image is generated by projectively transforming the first missing complemented image in accordance with deformation of the missing region.
前記パターンの画像を示すパターン画像を生成する撮像ステップと、
前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完ステップと、
前記補完画像に基づき、前記物体の表面の変位分布を算出する算出ステップと、
を含む、変位分布計測方法。 A displacement distribution measuring method for measuring a displacement distribution on a surface of an object based on an image of a pattern formed on the surface of the object,
an imaging step of generating a pattern image representing an image of the pattern;
a complementing step of generating a complementary image by complementing the pattern image corresponding to the missing region when the pattern image includes a missing region in which a part of the pattern image is missing;
a calculation step of calculating a displacement distribution of the surface of the object based on the complemented image;
Displacement distribution measurement method, comprising:
前記コンピュータを、
前記パターンの画像を示すパターン画像を生成する撮像部、
前記パターン画像が前記パターン画像の一部が欠落した欠落領域を含む場合に、前記欠落領域に対応する前記パターン画像を補完して補完画像を生成する補完部、及び、
前記補完画像に基づき、前記物体の表面の変位分布を算出する算出部、
として機能させる、変位分布計測装置の制御プログラム。 A control program for a displacement distribution measuring device comprising a computer and measuring a displacement distribution on the surface of the object based on an image of a pattern formed on the surface of the object,
said computer,
an imaging unit that generates a pattern image representing the image of the pattern;
a complementing unit that complements the pattern image corresponding to the missing region to generate a complementary image when the pattern image includes a missing region in which a part of the pattern image is missing;
a calculation unit that calculates a displacement distribution of the surface of the object based on the complemented image;
A control program for a displacement distribution measuring device that functions as
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019142751A JP7238676B2 (en) | 2019-08-02 | 2019-08-02 | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019142751A JP7238676B2 (en) | 2019-08-02 | 2019-08-02 | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021025845A JP2021025845A (en) | 2021-02-22 |
JP7238676B2 true JP7238676B2 (en) | 2023-03-14 |
Family
ID=74664580
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019142751A Active JP7238676B2 (en) | 2019-08-02 | 2019-08-02 | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7238676B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7338495B2 (en) * | 2020-01-31 | 2023-09-05 | 株式会社島津製作所 | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018129036A (en) | 2016-12-21 | 2018-08-16 | ダッソー システムズDassault Systemes | Completion of image |
WO2018211663A1 (en) | 2017-05-18 | 2018-11-22 | 株式会社Pfu | Measurement device, measurement method, determination method, and program |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH108264A (en) * | 1996-06-21 | 1998-01-13 | Furukawa Electric Co Ltd:The | Production of magnesium-containing aluminum alloy |
JP2006078345A (en) * | 2004-09-09 | 2006-03-23 | Toyota Motor Corp | Mark setting method |
JP6983402B2 (en) * | 2017-10-03 | 2021-12-17 | 国立研究開発法人産業技術総合研究所 | Strain distribution measurement method and its program that are not easily affected by dirt |
-
2019
- 2019-08-02 JP JP2019142751A patent/JP7238676B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018129036A (en) | 2016-12-21 | 2018-08-16 | ダッソー システムズDassault Systemes | Completion of image |
WO2018211663A1 (en) | 2017-05-18 | 2018-11-22 | 株式会社Pfu | Measurement device, measurement method, determination method, and program |
Also Published As
Publication number | Publication date |
---|---|
JP2021025845A (en) | 2021-02-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105818167B (en) | The method that hinged end effector is calibrated using long distance digital camera | |
JP5567922B2 (en) | Image processing apparatus and control method thereof | |
US9621793B2 (en) | Information processing apparatus, method therefor, and measurement apparatus | |
US9118823B2 (en) | Image generation apparatus, image generation method and storage medium for generating a target image based on a difference between a grip-state image and a non-grip-state image | |
US9230330B2 (en) | Three dimensional sensing method and three dimensional sensing apparatus | |
US20180211138A1 (en) | Information processing device, information processing method, and storage medium | |
EP3270104B1 (en) | Shape measuring apparatus and shape measuring method | |
CN110225321B (en) | Training sample data acquisition system and method for trapezoidal correction | |
JP7238676B2 (en) | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device | |
GB2577661A (en) | Determination of lithography effective dose uniformity | |
JP2023088919A (en) | Measuring device and measuring method | |
JP2020123244A5 (en) | ||
JPWO2021106529A5 (en) | ||
JP6772630B2 (en) | 3D measuring device and 3D object recognition method | |
JP6115639B2 (en) | Information processing apparatus, inspection range calculation method, and program | |
Eastwood et al. | Autonomous close-range photogrammetry using machine learning | |
JP4871315B2 (en) | Compound eye photographing apparatus, control method therefor, and program | |
JP2021061546A5 (en) | ||
JP5770021B2 (en) | Book reading system and book reading method | |
JP7338495B2 (en) | Displacement distribution measuring device, displacement distribution measuring method, and control program for displacement distribution measuring device | |
CN112361982B (en) | Method and system for extracting three-dimensional data of large-breadth workpiece | |
KR101089590B1 (en) | Method for processing multi-image and measurement device of three dimensional shape | |
JP2023553004A (en) | Deep learning-based image augmentation for additive manufacturing | |
TWI724594B (en) | Apparatus for three-dimensional measurement | |
JP6127399B2 (en) | Stereo camera device and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220823 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221104 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230131 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230213 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7238676 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |