JP6665458B2 - 識別装置および識別方法 - Google Patents

識別装置および識別方法 Download PDF

Info

Publication number
JP6665458B2
JP6665458B2 JP2015184886A JP2015184886A JP6665458B2 JP 6665458 B2 JP6665458 B2 JP 6665458B2 JP 2015184886 A JP2015184886 A JP 2015184886A JP 2015184886 A JP2015184886 A JP 2015184886A JP 6665458 B2 JP6665458 B2 JP 6665458B2
Authority
JP
Japan
Prior art keywords
substrate
board
unit
registration
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015184886A
Other languages
English (en)
Other versions
JP2017058306A (ja
Inventor
雅代 重岡
雅代 重岡
右一 佐藤
右一 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2015184886A priority Critical patent/JP6665458B2/ja
Publication of JP2017058306A publication Critical patent/JP2017058306A/ja
Application granted granted Critical
Publication of JP6665458B2 publication Critical patent/JP6665458B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Supply And Installment Of Electrical Components (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、基板の識別装置および識別方法に関する。
車載製品などの電子機器には、信頼性の観点から追跡可能性(以下、トレーサビリティ)の仕組みが求められる。また、電子機器の製造ラインでは、品質向上を目的とし、製造ラインを構成する装置や検査などに関する情報の分析のために、データを製品に紐付けるための仕組みが求められる。
プリント配線基板等の回路基板を製造・販売する場合においては、基板製品の製造工程管理や品質検査、出荷検査、販売管理等の目的でトレーサビリティが求められる。そのため、個々の回路基板に品名や品番、製造年月日等の個体識別情報を設定し、それらの情報に基づいて各回路基板を追跡することが実施されている。
個体識別情報の設定方法としては、個体識別情報を印字したバーコードやQRコード(登録商標)等のラベルや、個体識別情報を格納したRFID(Radio Frequency Identifier)を回路基板に貼り付ける方法がある。また、レーザーマーカーやインクジェット等で個体識別情報を基板に直接印刷する方法もある。これらの方法においては、回路基板を識別するために、それぞれの回路基板を識別するための個体識別情報を回路基板に付与している。
ところで、ラベルや印字によって個体識別情報を基板に付与する場合、個体識別情報を印字するためのラベルや、個体識別情報を基板に印刷するための印刷設備が必要となるため、製造コストが高くなるという問題がある。また、個体識別情報を基板に貼り付けたり、印刷したりする作業が必要となると、製造時間が増大するという問題がある。
そこで、基板を識別する個体識別情報を基板に付与せずに、基板自体の製造後のどの段階においても基板を識別できる識別装置や識別方法、トレーサビリティシステムが求められている。
特許文献1には、回路基板上に配置された複数の計測対象の位置を計測し、計測対象の計測値と設計値との差を計測対象ごとの位置情報として取得し、取得された位置情報の組み合わせを基板識別符号として登録する回路基板の識別装置について開示されている。特許文献1の識別装置によれば、個体識別情報を基板に付与せずに、個々の基板を識別することが可能となる。
また、特許文献2には、多層プリント配線板の側面をカメラで撮像し、撮像した画像データから特徴量を抽出する技術が開示されている。特許文献2では、基板側面模様を用いて基板の識別を行う。
特開2013−69838号公報 特開2009−140375号公報
特許文献2のように基板の側面を撮像して基板を識別する方法では、SMT(Surface Mount Technology)ラインのような製造ラインにおいて基板に部品を実装する場合には以下のような課題がある。
第1は、生産性への影響を考慮する必要があるという課題である。SMTラインの基板搬送方向に対してカメラを設置した場合、必ず基板を止めて撮像する必要があるため、生産性が低下してしまう。また、SMTライン上で基板搬送を停止する場合、既存の設備のシーケンスを変更する必要がある。
第2は、基板表面と裏面で撮像位置が異なるということを考慮する必要があるという課題である。基板の両面に部品実装を行う場合、表裏を返して2度SMTラインを通過することになる。基板識別を行うためには、基板側面の同じ箇所を撮像する必要があるが、カメラを固定位置に設置した場合には、表側と裏側で側面の位置関係が変わってしまう。また、基板の大きさは品種ごとに異なるため、側面の位置関係の変化も基板の大きさによって異なってしまう。これらの点を解決するために複数箇所にカメラを設置すると、製造コストの増大を招くとともに、基板品種によってカメラ位置を変更する手間がかかるという問題点が生じる。
本発明の目的は、生産性を損なうことなく、かつ精度よく基板を識別することを可能とする識別装置を提供することにある。
本発明の識別装置は、登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像する登録用撮像部と、登録用撮像部によって撮像された登録対象基板の画像データから特徴量を抽出し、抽出された登録対象基板の特徴量を基板情報と関連付けて格納するとともに、照合対象基板の画像データから抽出された特徴量と、格納された登録対象基板の特徴量とを照合することによって照合対象基板を識別する基板識別部とを備える。
本発明の識別装置は、照合対象基板の側面を搬送方向に対して垂直な方向から撮像する照合用撮像部と、照合用撮像部によって撮像された照合対象基板の画像データから抽出された特徴量と、登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像した画像データから抽出された特徴量とを照合することによって照合対象基板を識別する基板識別部とを備える。
本発明の識別方法においては、登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像し、登録対象基板の画像データから特徴量を抽出し、抽出された登録対象基板の特徴量を基板情報と関連付けて格納し、照合対象基板の側面を搬送方向に対して垂直な方向から撮像し、照合対象基板の画像データから特徴量を抽出し、抽出された照合対象基板の特徴量と、格納された登録対象基板の特徴量とを照合することによって照合対象基板を識別する。
本発明によれば、生産性を損なうことなく、かつ精度よく基板を識別することを可能とする識別装置を提供することが可能となる。
本発明の実施形態に係る識別装置の構成を示すブロック図である。 本発明の実施形態に係る識別装置を設置するSMT(Surface Mount Technology)ラインの一例を示す概念図である。 本発明の実施形態に係る識別装置が備える登録用撮像部の構成を上方から見た概念図である。 本発明の実施形態に係る識別装置が備える登録用撮像部の構成を側方から見た概念図である。 本発明の実施形態に係る識別装置が備える登録用撮像部におけるカメラの配置例を示す概念図である。 本発明の実施形態に係る識別装置が備える登録用撮像部におけるカメラの配置例を示す概念図である。 本発明の実施形態に係る識別装置が備える登録用撮像部におけるカメラおよびセンサの配置例を示す概念図である。 本発明の実施形態において基板の側面を撮像する際の撮像領域について説明するための概念図である。 本発明の実施形態に係る識別装置が備える照合用撮像部の構成を側方から見た概念図である。 本発明の実施形態に係る識別装置が備える照合用撮像部におけるカメラの配置例を示す概念図である。 本発明の実施形態に係る識別装置が備える照合用撮像部におけるカメラの配置例を示す概念図である。 本発明の実施形態に係る識別装置を構成するカメラやセンサをSMTラインに配置する一例を示す概念図である。 本発明の実施形態に係る識別装置が備える基板識別部の構成を示すブロック図である。 本発明の実施形態に係る識別装置を備える基板追跡システムの構成を示すブロック図である。 本発明の実施形態に係る識別装置が基板側面の撮像処理の流れを示すフローチャートである。 本発明の実施形態に係る識別装置が備える基板識別部による基板登録処理の流れを示すフローチャートである。 本発明の実施形態に係る識別装置が備える基板識別部による基板照合処理の流れを示すフローチャートである。 本発明の実施形態において、撮像された基板側面の画像データを構成するフレームについて説明するための概念図である。 本発明の実施形態において登録または照合の対象とする基板について説明するための概念図である。 本発明の実施形態において登録または照合の対象とする基板の向きについて説明するための概念図である。 本発明の実施形態において登録または照合の対象とする基板の向きについて説明するための概念図である。 本発明の実施形態に係る識別装置における基板の搬送速度と撮像画像との関係について説明するための概念図である。 本発明の実施形態に係る識別装置を実現するハードウェア構成の一例を示す概念図である。
以下に、本発明を実施するための形態について図面を用いて説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい限定がされているが、発明の範囲を以下に限定するものではない。なお、以下の実施形態の説明に用いる全図においては、特に理由が無い限り、同様箇所には同一符号を付す。また、以下の実施形態において、同様の構成・動作に関しては繰り返しの説明を省略する場合がある。
(実施形態)
(構成)
まず、本発明の実施形態に係る識別装置1の構成について図面を用いて説明する。図1は、本実施形態に係る識別装置1の機能構成を示すブロック図である。
本実施形態に係る識別装置1は、登録用撮像部10と、照合用撮像部20と、基板識別部30とを備える。
登録用撮像部10は、登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像する。すなわち、登録用撮像部10は、登録用の撮像画像(登録撮像画像ともよぶ)を撮像する。
照合用撮像部20は、照合対象基板の側面を搬送方向に対して垂直な方向から撮像する。すなわち、照合用撮像部20は、照合用の撮像画像(照合撮像画像ともよぶ)を撮像する。
基板識別部30は、登録用撮像部10によって撮像された登録対象基板の画像データから特徴量を抽出し、抽出された登録対象基板の特徴量を基板情報と関連付けて格納する。そして、基板識別部30は、照合用撮像部20によって撮像された照合対象基板の画像データから特徴量を抽出し、抽出された照合対象基板の特徴量と、格納された登録対象基板の特徴量とを照合することによって照合対象基板を識別する。すなわち、基板識別部30は、撮像画像から特徴量を抽出し、抽出された特徴量を用いて基板の登録や照合を行う。
図2は、本実施形態に係る識別装置1を設置するSMT(Surface Mount Technology)ラインの一例である。一般的なSMTラインは、はんだ印刷装置や印刷後検査装置、部品搭載装置、リフロー装置、外観検査装置などの複数のSMT装置101(表面実装装置ともよぶ)と、SMT装置101に基板100を搬送するための搬送装置110とを含む。搬送装置110は、基板100をSMT装置101に搬送するためのコンベアベルト111と、コンベアベルト111を設置するためのコンベアガイド112とを少なくとも含む。基板100は搬送装置110によってSMT装置101に搬送され、各SMT装置101において所定の工程処理が施される。本実施形態に係る識別装置1は、片面実装および両面実装のいずれにも対応できる。
以下において、識別装置1の具体的な構成について説明する。
(登録用撮像部)
図3は、識別装置1を配置するSMTラインを上方から見た概念図である。また、図4は、SMTラインを側方から見た概念図である。図3のように、登録用撮像部10は、2台のカメラ11と、センサ13と、登録用制御部15とを有する。なお、本実施形態においては、2台のカメラ11を区別せずに符号を付している。
2台のカメラ11(第1のカメラともよぶ)は、搬送中の基板100の対向する2つの側面を搬送方向に対して垂直な方向から撮像するように配置される。なお、2台のカメラ11は、基板100の側面を撮像できる位置に設置されればよく、基板100の側面を斜めに撮像するように設置してもよい。
図5のように、2台のカメラ11は、搬送装置110とSMT装置101と間の隙間から基板100の側面を撮像するように設置することができる。また、図6のように、2台のカメラ11は、搬送装置110の一部を切欠くことによって隙間(切欠き部ともよぶ)を形成し、その隙間から基板100の側面を撮像するように構成してもよい。
また、2台のカメラ11は、互いに対向させないようにずらして設置してもよい。図7のように、2台のカメラ11をずらして設置する場合、センサ12(12−1、2)を2台のカメラ11のそれぞれに対応させて設置することが好ましい。カメラ11に照明を設置する場合、カメラ11をずらして設置することにより、お互いの照明の影響を受けずに撮像することができる。
カメラ11は、SMT装置101の入口側や出口側に設置すればよい。SMTラインを複数のSMT装置101で構成する場合、基板100の登録に用いるカメラ11は、各SMT装置101の入り口側に設置すればよい。実際には、SMT装置101に基板100を搬送する度に登録する必要はないため、SMTラインを構成するSMT装置101のうち最初の装置のみにカメラ11を2台設置するように構成してもよい。
センサ13(第1の検出部ともよぶ)は、基板100を検知する位置に配置される。センサ13は、カメラ11の視野内における基板100の有無を検出する検出部である。センサ13は、基板100を検出すると、基板100を検出したことを通知するための検出信号を登録用制御部15に送出する。すなわち、センサ13は、カメラ11の撮像範囲に基板100が検出された際に検出信号を出力する。
例えば、図4のように、センサ13は、基板100を上方から撮像する位置に配置すればよい。なお、センサ13は、基板100を上方の主面方向から検知する位置ではなく、下方や側方、斜め方向から検知するように配置してもよい。
センサ13は、検出箇所に到達した基板100を検知できさえすればよい。例えば、センサ13は、フォトマイクロセンサや光電センサ、近接センサ、一般的なカメラ、赤外線カメラなどのように光を用いて物体検知する光学式センサによって実現できる。また、例えば、センサ13は、音波や電磁波、磁気などを利用して物体検知するセンサで構成してもよい。また、例えば、センサ13は、接触検知センサで構成してもよい。
本実施形態においては、基板100の有無をセンサ13によって行う例を挙げるが、センサ13の替わりにカメラ11によって撮像された画像データを画像処理することによって基板100を検出するように構成してもよい。また、搬送装置110やSMT装置101の搬送路上を搬送される基板100の通過箇所を撮影した動画をリアルタイムで読み込み、その動画を用いて基板100の有無を検出するように構成してもよい。この場合、基板100の検出をトリガーとし、カメラ11によって基板100の側面を連写し続けるように設定すればよい。カメラ11が撮影した動画を用いて基板100を検知する場合、カメラ11が検出部の機能を有する。すなわち、登録用撮像部10は、カメラ11によって撮像された画像データを画像処理することによって基板100を検出するように構成してもよい。
登録用制御部15(第1の制御部ともよぶ)は、カメラ11およびセンサ13に接続され、センサ13によって基板100が検出された際に、カメラ11が基板100を撮像するように制御する。すなわち、登録用制御部15は、基板100の検出を知らせる検出信号をセンサ13から受信すると、カメラ11に基板100を撮像させる制御をする。言い換えると、登録用制御部15は、センサ13からの検出信号に応じてカメラ11に撮像させる制御をする。そして、登録用制御部15は、カメラ11によって撮像された画像データを基板識別部30に出力する。
登録用制御部15は、カメラ11の撮像範囲を基板100が通過している間、基板100の両側面を連写する。この際、登録用制御部15は、カメラ11によって撮像された画像を画像データ(動画)として取得する。動画として取得された画像データは、複数のフレームで構成される。なお、本実施形態においては、動画を撮像する例を挙げるが、静止画のみを撮像するように構成してもよい。また、動画と静止画とをともに取得可能とし、動画と静止画とを組み合わせて基板100を識別するように構成してもよい。
図8は、基板100の側面を示す概念図である。図8において、基板100は右方向に搬送されているものとする。
登録用制御部15は、センサ13によって基板100が検出されると、撮像範囲R1を撮像するようにカメラ11を制御する。次に、登録用制御部15は、撮像範囲R1の一部を含む撮像範囲R2を撮像するようにカメラ11を制御する。これ以降、登録用制御部15は、撮像範囲R3、・・・、Rn-2、Rn-1、Rnを次々に撮像するようにカメラ11を制御する(nは任意の自然数)。本実施形態において、登録用制御部15は、隣接した撮像範囲が重なるように基板100の側面をカメラ11に撮像させる制御をする。すなわち、登録用制御部15は、登録用撮像部10によって撮像された画像データを構成する複数のフレームのうち連続したフレームに基板100の側面の同一箇所が含まれるようにカメラ11に連写させる制御する。
一連の撮像処理の結果、登録用制御部15は、各撮像範囲R1〜Rnの画像をフレームとする画像データ(動画)を取得する。
(照合用撮像部)
次に、照合用撮像部20の構成について、図9を用いて具体的に説明する。照合用撮像部20は、カメラ21と、センサ23と、照合用制御部25とを有する。照合用撮像部20は、カメラ21を単一で構成できる点において登録用撮像部10と異なる。なお、照合用撮像部20が複数のカメラ21を含むように構成してもよい。また、照合用撮像部20のカメラ21は、登録用撮像部10のカメラ11を転用してもよい。
カメラ21(第2のカメラともよぶ)は、搬送中の基板100の側面を搬送方向に対して垂直な方向から撮像するように配置される。カメラ21は、図10のように、搬送装置110とSMT装置101と間の隙間に配置すればよい。また、カメラ21は、図11のように、コンベアガイド112の一部を切欠くことによって形成した隙間に配置してもよい。
カメラ21は、SMT装置101の入口側や出口側に設置すればよい。SMTラインを複数のSMT装置101で構成する場合、基板100の照合に用いるカメラ21は、各装置の入り口側に設置することが好ましい。ただし、SMTラインを構成するSMT装置101間で照合を行う必要がない場合は、その装置間にはカメラ21を設置しなくてもよい。また、SMT装置101を複数の装置で構成する場合であっても、基板100を各装置に搬送する度に照合しなくてもよいことも想定される。そのような場合、SMT装置101の最初の工程を担う装置の入り口側のみにカメラ21を設置するように構成してもよい。
図12は、複数のSMT装置101(101−1、2、・・・、n)によって構成されるSMTラインに登録撮像用カメラ11および照合撮像用カメラ21を配置する一例である(nは2以上の自然数)。SMTラインを構成するSMT装置101のうち第1工程を担うSMT装置101−1の入り口側には、登録撮像用のカメラ11を2台配置する。そして、SMTラインを構成するSMT装置101のうち第2工程以降を担うSMT装置101−2、・・・、nの入り口側には、照合撮像用のカメラ21を1台ずつ配置すればよい。
なお、第2工程以降のいずれかのSMT装置101の入り口側に登録撮像用のカメラ11を2台配置するように構成してもよい。また、第1工程の入り口に配置するカメラ11によって撮像された画像を基に基板100の照合を行うように構成してもよい。また、SMT装置101の入り口側で登録や照合を行う必要がない場合は、カメラ11または21を省略してもよい。
実用上は、各SMT装置101の入り口に配置したカメラ11または21によって撮像された画像に基づいて、基板100の登録・照合を行うことさえできればよい。そのため、各SMT装置101の入り口に配置した何らかのカメラによって撮像された画像を用いて、登録用撮像部10で基板100を登録し、照合用撮像部20で基板100を照合するように構成すればよい。すなわち、SMT装置101の入り口側に配置したカメラは、基板100の登録に用いる場合はカメラ11(第1のカメラ)、基板100の照合に用いる場合はカメラ21(第2のカメラ)として機能すればよい。
センサ23(第2の検出部ともよぶ)は、カメラ21の視野内における基板100の有無を検出する。すなわち、センサ23は、カメラ21の撮像範囲に基板100が検出された際に検出信号を出力する。なお、センサ23の配置や機能は、登録用撮像部10のセンサ13と同様であるため、詳細な説明は省略する。また、照合用撮像部20のセンサ23は、登録用撮像部10のセンサ13を転用してもよい。すなわち、照合用撮像部20は、カメラ21によって撮像された画像データを画像処理することによって基板100を検出するように構成してもよい。
照合用制御部25(第2の制御部ともよぶ)は、カメラ21とセンサ23とに接続される。照合用制御部25は、センサ23によって基板100が検出されると、検出された基板100が通過している期間において撮像を行うようにカメラ21を制御する。言い換えると、照合用制御部25は、センサ23からの検出信号に応じてカメラ21に撮像させる制御をする。すなわち、照合用制御部25は、照合用撮像部20によって撮像された画像データを構成する複数のフレームのうち連続したフレームに基板100の側面の同一箇所が含まれるようにカメラ21に連写させる制御する。なお、照合用制御部25は、登録用撮像部10と同様に基板100の側面の全面を撮像するようにカメラ21を制御してもよいし、基板100の側面の少なくとも一部を撮像するようにカメラ21を制御してもよい。
(基板識別部)
次に、基板識別部30の構成について、図13を用いて具体的に説明する。基板識別部30は、特徴量抽出部31と、格納部33と、照合判定部35とを有する。
特徴量抽出部31は、登録用撮像部10または照合用撮像部20が撮像した基板100の側面の画像データから特徴量を抽出する。すなわち、特徴量抽出部31は、登録用撮像部10および照合用撮像部20のうちいずれかによって撮像された画像データから特徴量を抽出する。特徴量抽出部31は、基板100の側面の画像データ(動画)を構成する複数のフレームごとに特徴量を抽出してもよいし、連続したフレームによって構成される特徴量を抽出してもよいし、画像データ(動画)全体から特徴量を抽出してもよい。
特徴量抽出部31は、基板100を構成する基材や繊維によって形成される側面の模様や形状などのパターンを特徴量として抽出する。特徴量抽出部31は、基板100側面の全面から特徴量を抽出してもよいし、基板100側面の一部から局所的に特徴量を抽出してもよい。特徴量抽出部31は、画像パターンそのものを特徴量として抽出してもよいし、画像パターンを数値化したものを特徴量として抽出してもよい。
特徴量抽出部31は、特徴量を抽出する際に、登録や照合に用いる撮像画像に対して画像処理を行うことによって画像を抽象化することが好ましい。例えば、画像処理としては、二値化や細線化、ガンマ補正、膨張・収縮処理、ラベリング、色相抽出、疑似カラー化などを一例として挙げられる。また、例えば、移動平均フィルタやガウシアンフィルタ、メディアンフィルタ、ソーベルフィルタ、アンシャープマスキング、バイラテラルフィルタなどのフィルタ処理を画像処理として行ってもよい。なお、特徴量抽出部31は、ここであげた方法に含まれない画像処理を行ってもよい。また、基板識別部30は、特徴量抽出部31とは別に、特徴量抽出する際に画像処理を行う画像処理部を備えていてもよい。
格納部33は、登録用撮像部10によって撮像された画像データ(以下、登録撮像画像)から特徴量抽出部31が抽出した特徴量と、基板100の基板情報とを関連付けて格納する。格納部33は、特徴量を抽出した基板100に関連付けて、その基板100の品種やシリアルナンバー等の基板情報を格納する。
品種情報は、ユーザによって入力するように構成してもよいし、図示しない製造実行システム(以下、MES:Manufacturing Execution System)等の上位システムから受信するように構成してもよい。また、シリアルナンバーは、MES等の上位システムから受信するように構成してもよいし、基板識別部30で自動生成するように構成してもよい。
照合判定部35は、照合用撮像部20によって撮像された画像データ(照合撮像画像)から特徴量抽出部31が抽出した特徴量と、格納部33に格納された特徴量との照合を行う。照合判定部35は、照合用データから抽出された特徴量と、登録撮像画像から抽出された特徴量とを照合し、それらが一致するか否かを判定する。言い換えると、照合判定部35は、撮像された画像データを構成する複数のフレームのそれぞれから抽出された特徴量と、格納部33に格納された特徴量とを照合し、一致率が最も大きい基板100同士を同一であると判定する。
照合判定部35は、照合撮像画像から抽出された特徴量と、登録撮像画像から抽出された特徴量とを照合する。また、照合判定部35は、登録撮像画像から抽出された特徴量をテンプレートとして照合撮像画像上で走査させることによって照合を行ってもよい。テンプレートマッチングを用いて照合を行う場合、照合判定部35は、登録撮像画像または照合撮像画像から抽出されたテンプレートを対象の撮像画像上で走査させ、類似度計算によって類似度が最大となる位置を見つければよい。類似度は、正規化相互相間や相互相関係数、差の2乗和・絶対値和などによって判定すればよい。なお、基板識別部30による基板100の照合方法はここで挙げた限りではなく、任意の手法を用いることができる。
以上が、本実施形態に係る識別装置1の構成についての説明である。
(基板追跡システム)
ここで、本実施形態の識別装置1を備える基板追跡システムを図14に示す。図14のように、基板追跡システムは、本実施形態に係る識別装置1と生産履歴サーバ2とを備える。識別装置1と生産履歴サーバ2とは、ローカルエリアネットワークやインターネットを介して接続される。なお、識別装置1と生産履歴サーバ2とは、有線で接続されていてもよいし、無線で接続されていてもよい。
生産履歴サーバ2は、基板100に関するトレーサビリティ等の情報を管理するサーバである。生産履歴サーバ2は、各基板100の生産履歴を追跡するために、各基板100の基板情報と、SMT装置を構成する各工程の通過履歴とを関連付けて記録する。生産履歴サーバ2は、一般的なサーバで構成すればよい。
(動作)
次に、本実施形態に係る識別装置1の動作についての説明である。
(撮像処理)
まず、登録用撮像部10による撮像処理について図15を用いて説明する。
登録用制御部15は、基板100が撮像範囲を通過中であることを示す検出信号がセンサ13から出力されているか否かを確認する(ステップS11)。
検出信号が出力されている場合(ステップS11でYes)、登録用制御部15は、基板100の側面を撮像する(ステップS12)。なお、検出信号が出力されていない場合(ステップS11でNo)、登録用制御部15は何もしない(ステップS11に戻る)。
登録用制御部15は、基板100側面の画像をカメラ11に撮像させる制御をした後、予め設定された時間(以下、設定時間)だけ待機する(ステップS13)。設定時間は、基板100の搬送速度やカメラ11の撮像タイミング、基板100の側面画像の撮像条件に合わせて設定すればよい。本実施形態においては、画像データ(動画)を構成する連続したフレームの撮像範囲が重なるように設定時間を調整すればよい。
登録用制御部15は、設定時間が経過した後に検出信号が出力されている場合(ステップS14でYes)、再度基板100の側面を撮像する(ステップS12に戻る)。
図15の撮像処理において、識別装置1は、ステップS12〜S14を繰り返すことによって基板100の側面を連続して撮像する。
登録用制御部15は、検出信号が出力されなくなった段階(ステップS14でNo)で、連続して撮像した画像データ(動画)を構成する全てのフレームを基板識別部30に転送する(ステップS15)。なお、検出信号が出力されている間であっても、所定の時間が経過した段階で撮像済みのフレームを漸次的に基板識別部30に転送するように構成してもよい。
登録用撮像部10は、2台のカメラ11を有するが、それらのカメラ11はそれぞれ同様のタイミングで動作する。また、カメラ11ごとにセンサ13を設置する場合、登録用制御部15は、各カメラ11に対応するセンサ13の検出信号に応じて対応するカメラ11を制御する。ただし、2台のカメラ11の撮像タイミングは、全く同じ時刻ではなく、所定の範囲でずれていてもよい。登録用撮像部10は、2台のカメラで撮像した画像データ(動画)を構成する全てのフレームを基板識別部30に転送する。
次に、照合用撮像部20による撮像処理について説明する。ただし、照合用撮像部20による撮像処理は、登録用撮像部10による撮像処理と実質的に同様であるため、詳細な説明は省略する。
照合用撮像部20は、登録用撮像部10のカメラ11(2台)を1台(カメラ21)にした構成をもつ。照合用撮像部20による撮像処理は、登録用撮像部10による撮像処理と同様の撮像処理を1台のカメラ21で行う。照合用撮像部20は、1台のカメラ21で撮像した全画像(全フレーム)を基板識別部30に転送する。
(基板識別処理)
次に、基板識別部30による基板識別処理について説明する。
基板識別部30は、登録用撮像部10または照合用撮像部20が撮像した画像データを受信してから処理を開始する。このとき、基板識別部30は、受信した画像データが登録用撮像部10および照合用撮像部20のいずれから取得されたデータであるのかによって異なる処理を実行する。
(基板登録工程)
まず、図16を用いて、基板識別部30が登録用撮像部10の画像を受信した際の工程(基板登録工程)について説明する。
特徴量抽出部31は、画像データ(動画)を受信後、受信した画像データを構成する全ての画像(以下、フレーム)についてフレームごとに特徴量を抽出する(ステップS21)。
照合判定部35は、特徴量抽出部31によって抽出された特徴量と、格納部33に格納された特徴量との照合を行う(ステップS22)。
例えば、撮像された基板100の片面が既に実装済みであり、もう一方の面に部品を実装する場合、その基板100に関する登録情報が格納部33に既に登録されている。その場合、ステップS21で抽出された特徴量と、格納部33に格納された特徴量とが照合されれば、その基板100に基板情報(品種、シリアルナンバー等)を関連付けることができる。
ステップS22で抽出された特徴量に一致する特徴量を有する基板100が格納部33に登録されていなかった場合(ステップS23でNo)、基板識別部30は、その基板100の特徴量を基板情報に関連付けて格納部33に登録する。
そして、基板識別部30は、その基板100の基板情報と通過履歴とを生産履歴サーバ2に送信する(ステップS25)。
一方、ステップS22で抽出された特徴量に一致する特徴量を有する基板100が格納部33に既に登録されていた場合(ステップS23でYes)、識別装置1は、その基板100の基板情報と通過履歴とを生産履歴サーバ2に送信する(ステップS25)。
以上が、基板識別処理の基板登録工程に関する説明である。
(基板照合工程)
次に、図17を用いて、基板識別部30が照合用撮像部20の画像を受信した際の工程(基板照合工程)について説明する。
特徴量抽出部31は、画像データ(動画)を受信後、受信した画像データを構成する全ての画像(以下、フレーム)についてフレームごとに特徴量を抽出する(ステップS31)。
照合判定部35は、特徴量抽出部31によって抽出された特徴量と、格納部33に格納された既存の特徴量との照合を行う(ステップS32)。
そして、識別装置1は、その基板100の基板情報と通過履歴とを生産履歴サーバ2に送信する(ステップS33)。
ここで、複数枚のフレームで構成される画像データの特徴量を保存する方法について説明する。ここでは、対象とする基板100の側面の画像データは10枚のフレームで構成されるものとする。なお、ここで述べる方法は一例であって、本実施形態の識別装置による処理を限定するものではない。
まず、図18のように、基板Aの側面の画像データを構成する10枚のフレームを、それぞれIA1、IA2、IA3、・・・、IA10と名付ける。特徴量抽出部31は、各フレームから特徴量を抽出する。各特徴量抽出部31は、各フレームの特徴量を基板情報と関連付けて格納部33に保存する。このとき、同一の基板100を構成するフレームIA1〜IA10の特徴量は、共通の基板情報に関連付けられることになる。
次に、複数枚のフレームで構成される画像データの照合方法について説明する。ここでは、照合対象となる基板Xの側面の画像データを構成する10枚のフレームを、それぞれIX1、IX2、IX3、・・・、IX10とする。なお、基板Xについては図面を省略する。
まず、照合判定部35は、IX1の照合を行い、最も一致率の高い基板情報を格納部33から取得する。同様に、照合判定部35は、IX2〜IX10についても照合を行う。そして、照合判定部35は、IX1〜IX10中で識別率の最も高かった基板を基板Xと同一の基板であると判定する。なお、基板の照合には、一般的なパターンマッチングの手法を用いればよい。
ここで、本実施形態に係る識別装置1が基板100の側面を対向する2つの方向から撮像することによる効果について説明する。
図19は、基板100の斜視図である。ここで、搬送中の基板100の上方面(主面)を第1面、下方面を第2面と呼ぶ。また、基板100の搬送方向をX方向、基板100の主面および搬送方向に垂直な方向をY方向、第1面における法線方向をZ方向と呼ぶ。また、基板100の側面のうち手前側を側面A、側面Aと対向する反対側を側面Bと呼ぶ。
実際のSMTラインでは、製造工程によっては基板100が異なった向きを向く。例えば、図20のようにY軸に対して基板100を180度回転すると、カメラに対する側面の向きは入れ替わらないものの、第1面と第2面の向きが入れ替わる。また、例えば、図21のように、X軸に対して180度回転すると、第1面と第2面との向きが入れ替わるとともに、側面Bが手前側を向き、側面Aが反対側を向くことになる。
図20のような場合には、基板100の側面の「側面A」という表記は、回転前は左側に位置していたが、回転後は右側に位置することになる。そのため、基板100の搬送を止めて1枚だけ撮像する場合だと、基板100を止める位置を変えたり、カメラの位置を変えたりする必要がある。また、X軸方向の基板100の長さは品種によって異なるので、基板100を止める位置やカメラの位置の変更は品種によって異なることになる。それに対し、本実施形態においては、基板100の側面全体を連写して撮像するため、基板100を止める位置を変えたり、カメラの位置を変えたりする必要がない。
すなわち、本実施形態に係る識別装置1では、登録用撮像部10が、基板100の対向する2つの側面を連写することにより、基板100の両側面の全面を撮像することができる。その結果、図20や図21のように、基板100がどのように向きを替えても基板識別を行う事が可能となる。また、本実施形態に係る識別装置1によれば、基板の大きさが変わってもカメラの位置などを設定変更する必要がない。
また、同一基板100の側面に関して、図18のように連続したフレームが重なり合うように撮像することによって、基板100の搬送時にスピードが変化するような場合でも基板100を識別することができる。
図22は、基板100を登録するときには等速で搬送し、基板100を照合するときは搬送速度が変わる場合の撮像例を示す。基板100は右方向に搬送されるものとし、基板100の右端から領域1、領域2、領域3、・・・と区切る。
まず、登録撮像画像の撮像について説明する。登録撮像画像を撮像する際には、基板100は等速で搬送されるものとする。領域1がカメラの撮像範囲に差し掛かったところで、1枚目の登録撮像画像が撮像される。以下、2枚目、3枚目、・・・という順番で登録撮像画像を撮像していく。このように撮像された登録撮像画像は、等しい時間間隔で撮像されたものである。
次に、照合撮像画像の撮像について説明する。照合撮像画像を撮像する際には、基板100の搬送速度が変わるものとする。領域1がカメラの撮像範囲に差し掛かったところで、1枚目の照合撮像画像が撮像される。図22の例では、2〜6枚目の照合撮像画像に関しては、ほぼ停止した状態で撮像される。そして、7枚目以降の照合撮像画像は、基板100が動いている状態で撮像される。
図22においては、登録撮像画像および照合撮像画像に関して、同じ領域を撮像した画像が含まれるため、それらの画像同士を照合することによって基板100の識別が可能となる。例えば、図22に示す照合撮像画像の2〜7枚目の画像は、登録撮像画像の2枚目と一致率が高くなる。すなわち、本実施形態によれば、基板搬送の減速や停止タイミングなどを含む既存の設備制御を変更する必要なく、基板識別を行うことが出来る。
(効果)
以上のように、本実施形態においては、基板を停止させずに、基板の側面を連写して撮像できるため、生産性に影響が及ばない。すなわち、本実施形態に係る識別装置によれば、生産性を損なうことなく、かつ精度よく基板を識別することが可能となる。
(ハードウェア)
最後に、本実施形態に係る識別装置を可能とするハードウェア構成について説明する。図23は、本発明の実施形態に係る識別装置のハードウェア構成の一例を示すブロック図である。図23には、プロセッサ91、コンバータ93、主記憶装置95、入出力インターフェース96、画像処理回路97および記憶媒体98がバス99によって接続されたハードウェア構成を示す。なお、図23は、各実施形態に係る識別装置を実現するための一構成例であって、装置のスペックに合わせて任意の装置や回路を追加・削除してもよい。
プロセッサ91は、記憶媒体98等に格納されたプログラムを主記憶装置95等に展開し、展開されたプログラムを実行する演算装置である。プロセッサ91は、一般的な中央演算処理装置(CPU:Central Processing Unit)で構成すればよい。基板識別部30の特徴量抽出部31や照合判定部35の機能の一部は、プロセッサ91に負わせればよい。
コンバータ93は、外部から入力されたアナログデータをデジタル変換する機能を有する回路である。コンバータ93は、アナログデータをデジタル変換するA/D(Analog/Digital)変換コンバータを有する。なお、コンバータ93は、内部で生成されたデジタルデータをアナログ変換する機能を有してもよい。
主記憶装置95は、プロセッサ91が扱うプログラムやデータを一時的に展開するための記憶領域を有する装置である。例えば、ランダムアクセスメモリ(RAM:Random Access Memory)を主記憶装置95として構成することができる。
入出力インターフェース96は、外部または内部の入出力機器との間のデータ授受を行うインターフェースである。例えば、入出力インターフェース96は、カメラ(11、21)やセンサ(13、23)と接続される。また、入出力インターフェース96は、図示しないキーボードやマウスなどの入力装置、図示しないディスプレイやプリンタなどの出力装置、外部のコンピュータやサーバなどに繋がるネットワークと接続されてもよい。
画像処理回路97は、画像データに対して種々の処理を行う回路である。画像処理回路97は、例えば、撮像データに対して、暗電流補正や補間演算、色空間変換、ガンマ補正、収差の補正、ノイズリダクション、画像圧縮などの画像処理を実行する集積回路である。なお、画像処理回路97は、上述の画像処理以外の処理を実行できるように構成してもよい。特徴量抽出部31が画像データを処理する際に画像処理を行う場合、その機能の一部を画像処理回路97に負わせればよい。
記憶媒体98は、プログラムやデータを記憶する媒体である。例えば、ハードディスクなどを記憶媒体98として用いることができる。また、ROM(Read Only Memory)を記憶媒体98として構成してもよい。格納部33の機能は、主記憶装置95に負わせればよい。記録媒体は98、例えばSD(Secure Digital)カードやUSB(Universal Serial Bus)メモリなどの半導体記録媒体などで実現してもよい。また、記憶媒体98は、フレキシブルディスクなどの磁気記録媒体、CD(Compact Disk)やDVD(Digital Versatile Disc)などの光学記録媒体やその他の原理を用いた記録媒体によって実現してもよい。
以上が、本発明の実施形態に係る識別装置を可能とするためのハードウェア構成の一例である。なお、図23のハードウェア構成は、本実施形態に係る識別装置を可能とするためのハードウェア構成の一例であって、本発明の範囲を限定するものではない。また、本実施形態に係る識別装置による処理をコンピュータに実行させる処理プログラムも本発明の範囲に含まれる。さらに、本発明の実施形態に係る処理プログラムを記録したプログラム記録媒体も本発明の範囲に含まれる。
以上、実施形態を参照して本発明を説明してきたが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
1 識別装置
10 登録用撮像部
11 カメラ
13 センサ
15 登録用制御部
20 照合用撮像部
21 カメラ
23 センサ
25 照合用制御部
30 基板識別部
31 特徴量抽出部
33 格納部
35 照合判定部
100 基板
101 SMT装置
110 搬送装置
111 コンベアベルト
112 コンベアガイド

Claims (10)

  1. 登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像する登録用撮像部と、
    前記登録用撮像部によって撮像された前記登録対象基板の2つの側面の画像データの各々から特徴量を抽出し、抽出された前記登録対象基板の2つの側面の特徴量を基板情報と関連付けて格納するとともに、照合対象基板の少なくとも1つの側面の画像データから抽出された特徴量と、格納された前記登録対象基板の2つの側面の特徴量とを照合することによって前記照合対象基板を識別する基板識別部とを備える識別装置。
  2. 照合対象基板の少なくとも1つの側面を搬送方向に対して垂直な方向から撮像する照合用撮像部と、
    登録対象基板の画像データから抽出された前記登録対象基板の特徴量が基板情報と関連付けて格納され、前記照合用撮像部によって撮像された前記照合対象基板の少なくとも1つの側面の画像データから抽出された特徴量と、前記登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像した前記登録対象基板の2つの側面の画像データの各々から抽出された特徴量とを照合することによって前記照合対象基板を識別する基板識別部とを備える識別装置。
  3. 前記登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像する登録用撮像部を備える請求項2に記載の識別装置。
  4. 前記登録用撮像部は、
    搬送中の基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像するように配置された少なくとも2台の第1のカメラと、
    前記第1のカメラの撮像範囲に基板が検出された際に検出信号を出力する第1の検出部と
    前記第1の検出部からの検出信号に応じて前記第1のカメラに撮像させる制御をする第1の制御部とを有し、
    前記照合用撮像部は、
    搬送中の基板の側面を搬送方向に対して垂直な方向から撮像するように配置された少なくとも1台の第2のカメラと、
    前記第2のカメラの撮像範囲に基板が検出された際に検出信号を出力する第2の検出部と、
    前記第2の検出部からの検出信号に応じて前記第2のカメラに撮像させる制御をする第2の制御部とを有し、
    前記基板識別部は、
    前記登録用撮像部および前記照合用撮像部のうちいずれかによって撮像された画像データから特徴量を抽出する特徴量抽出部と、
    前記特徴量抽出部によって抽出された前記登録対象基板の特徴量を前記基板情報と関連付けて格納する格納部と、
    前記照合用撮像部によって撮像された画像データから抽出された前記照合対象基板の特徴量と、前記格納部に格納された前記登録対象基板の特徴量とを照合する照合判定部とを有する請求項3に記載の識別装置。
  5. 前記第1の制御部は、前期登録用撮像部によって撮像された画像データを構成する複数のフレームのうち連続したフレームに基板側面の同一箇所が含まれるように前記第1のカメラに連写させる制御をし、
    前記第2の制御部は、前記照合用撮像部によって撮像された画像データを構成する複数のフレームのうち連続したフレームに基板側面の同一箇所が含まれるように前記第2のカメラに連写させる制御をする請求項4に記載の識別装置。
  6. 前記特徴量抽出部は、前期登録用撮像部および前記照合用撮像部によって撮像された画像データを構成する複数のフレームごとに特徴量を抽出する請求項4に記載の識別装置。
  7. 前記第1および第2のカメラは、基板を搬送する搬送装置と表面実装装置との間の隙間から基板側面を撮像するように設置される請求項4に記載の識別装置。
  8. 前記第1および第2のカメラは、基板を搬送する搬送装置に設けられた切欠き部から基板側面を撮像するように配置される請求項4に記載の識別装置。
  9. 前記照合判定部は、
    前期登録用撮像部または前記照合用撮像部によって撮像された画像データを構成する複数のフレームのそれぞれから抽出された特徴量と、前記格納部に格納された特徴量とを照合し、一致率が最も大きい基板同士を同一であると判定する請求項4に記載の識別装置。
  10. 登録対象基板の対向する2つの側面を搬送方向に対して垂直な方向から撮像し、
    前記登録対象基板の2つの側面の画像データの各々から特徴量を抽出し、
    抽出された前記登録対象基板の2つの側面の特徴量を基板情報と関連付けて格納し、
    照合対象基板の少なくとも1つの側面を搬送方向に対して垂直な方向から撮像し、
    前記照合対象基板の少なくとも1つの側面の画像データから特徴量を抽出し、
    抽出された前記照合対象基板の少なくとも1つの側面の特徴量と、格納された前記登録対象基板の2つの側面の特徴量とを照合することによって前記照合対象基板を識別する識別方法。
JP2015184886A 2015-09-18 2015-09-18 識別装置および識別方法 Active JP6665458B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015184886A JP6665458B2 (ja) 2015-09-18 2015-09-18 識別装置および識別方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015184886A JP6665458B2 (ja) 2015-09-18 2015-09-18 識別装置および識別方法

Publications (2)

Publication Number Publication Date
JP2017058306A JP2017058306A (ja) 2017-03-23
JP6665458B2 true JP6665458B2 (ja) 2020-03-13

Family

ID=58389876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015184886A Active JP6665458B2 (ja) 2015-09-18 2015-09-18 識別装置および識別方法

Country Status (1)

Country Link
JP (1) JP6665458B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023044071A (ja) 2021-09-17 2023-03-30 富士フイルムビジネスイノベーション株式会社 照合装置及び照合プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10142159A (ja) * 1996-11-07 1998-05-29 Ngk Spark Plug Co Ltd 配線基板の側面外観検査装置とこれを用いた検査方法
US5768759A (en) * 1996-11-19 1998-06-23 Zevatech, Inc. Method and apparatus for reflective in-flight component registration
JP2006013120A (ja) * 2004-06-25 2006-01-12 Matsushita Electric Ind Co Ltd 不具合原因究明システム
JP4654022B2 (ja) * 2004-12-24 2011-03-16 株式会社サキコーポレーション 基板の外観検査装置
JP2009140375A (ja) * 2007-12-10 2009-06-25 Hitachi Ltd 多層プリント配線板の個体識別方法
JP5053926B2 (ja) * 2008-05-09 2012-10-24 ヤマハ発動機株式会社 基板処理装置
JP2010276607A (ja) * 2009-05-27 2010-12-09 Koh Young Technology Inc 3次元形状測定装置および測定方法
JP6254785B2 (ja) * 2012-07-24 2017-12-27 サイトセンシング株式会社 視聴率調査システム、並びに表情情報生成装置及び表情情報生成プログラム

Also Published As

Publication number Publication date
JP2017058306A (ja) 2017-03-23

Similar Documents

Publication Publication Date Title
JP6753105B2 (ja) 識別装置
US10628648B2 (en) Systems and methods for tracking optical codes
CN101713635B (zh) 印刷电路板及其定位***和方法
US10755134B2 (en) Generation of training data for object-sorting work based on a difference between feature amounts of captured object images
JP6645007B2 (ja) 基板の識別装置、基板の識別方法、及び基板のトレーサビリティシステム
JP2007249488A (ja) Rfidシステム、rfid読取方法
JP6665458B2 (ja) 識別装置および識別方法
JP2024016287A (ja) ビジョンシステムでラインを検出するためのシステム及び方法
WO2022226225A2 (en) System for item recognition using computer vision
JP6729111B2 (ja) 識別装置、トレーサビリティシステムおよび識別方法
US20230120798A1 (en) Systems and methods for detecting a mis-scan of an item for purchase
CN113617698A (zh) 一种包裹追溯方法、装置、***、电子设备及存储介质
JP6891466B2 (ja) 識別システム、識別方法および識別プログラム
JP6852488B2 (ja) 識別装置、識別方法およびプログラム
JP5531933B2 (ja) 電子部品実装システムおよび電子部品実装方法
JP6668653B2 (ja) 基板のトレーサビリティシステム、及び基板のトレーサビリティ方法
JP2020024111A (ja) 検査装置および検査方法
JP2016217872A (ja) 検査装置、検査方法、プログラム、記録媒体
JP2020024110A (ja) 検査装置および検査方法
CN111046690A (zh) 码信息读取装置、方法和计算机可读存储介质
JP2019132862A (ja) 検査装置
TW201944289A (zh) 圖像識別裝置、及具有圖像識別裝置的物品製造裝置
JP7444454B2 (ja) 商品登録システム、商品登録装置、商品登録装置の制御方法、およびプログラム
JP7330034B2 (ja) 読取装置及びプログラム
JP6582498B2 (ja) 検査装置、検査方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200203

R150 Certificate of patent or registration of utility model

Ref document number: 6665458

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150