JP6978454B2 - 物体検出装置、制御装置及び物体検出用コンピュータプログラム - Google Patents
物体検出装置、制御装置及び物体検出用コンピュータプログラム Download PDFInfo
- Publication number
- JP6978454B2 JP6978454B2 JP2019030506A JP2019030506A JP6978454B2 JP 6978454 B2 JP6978454 B2 JP 6978454B2 JP 2019030506 A JP2019030506 A JP 2019030506A JP 2019030506 A JP2019030506 A JP 2019030506A JP 6978454 B2 JP6978454 B2 JP 6978454B2
- Authority
- JP
- Japan
- Prior art keywords
- target object
- image
- work
- unit
- positional relationship
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/04—Viewing devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
- B25J19/023—Optical sensing devices including video camera means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/02—Programme-controlled manipulators characterised by movement of the arms, e.g. cartesian coordinate type
- B25J9/04—Programme-controlled manipulators characterised by movement of the arms, e.g. cartesian coordinate type by rotating at least one arm, excluding the head movement itself, e.g. cylindrical coordinate type or polar coordinate type
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/10—Programme-controlled manipulators characterised by positioning means for manipulator elements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40564—Recognize shape, contour of object, extract position and orientation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40613—Camera, laser scanner on end effector, hand eye manipulator, local
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Robotics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Databases & Information Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Image Analysis (AREA)
- Manipulator (AREA)
Description
上記のように、画像上でワーク10が表された領域が検出されると、ロバスト検出部41は、その領域内の所定の位置、例えば、その領域の重心を、画像上でのワーク10の位置とする。
ここで、画像上の各画素の位置は、カメラ4から見た方位と1対1に対応する。そこで、ロバスト検出部41は、例えば、画像上でワーク10が表された領域の重心に相当する方位を、カメラ4からワーク10へ向かう方位とすることができる。さらに、ロバスト検出部41は、画像上でワーク10が表された領域の面積に対する、カメラ4からワーク10までの距離が所定の基準距離である場合における、画像上のワーク10の面積の比を、基準距離に乗じることで、カメラ4からワーク10までの推定距離を算出できる。したがって、ロバスト検出部41は、カメラ4からワーク10へ向かう方位と推定距離とに基づいて、カメラ4の位置を基準とするカメラ座標系でのワーク10の位置を検出できる。そしてロバスト検出部41は、検出したワーク10の位置を判定部43及びアプローチ制御部44へ出力する。
この場合、ロバスト検出部41は、検出したワーク10の位置及び姿勢を判定部43及びアプローチ制御部44へ出力すればよい。
精密検出部42は、検出したワーク10の位置及び姿勢を判定部43及び作業制御部45へ出力する。
なお、ワーク10の移動量をもとにロボット2の座標系が動かされ、その座標系上でロボット2の動作プログラムが組まれている場合は、判定部43は、その座標系上でロボット2が所定の位置に到達した場合にロバスト検出部41から精密検出部42に切り替えるということをしてもよい。
このように、作業制御部45は、高精度で検出された、カメラ4に対するワーク10の相対的な位置及び姿勢に基づいて、ロボット2の可動部を制御するので、ワーク10に対する作業を適切に行えるようにロボット2を制御できる。
あるいは、ロボット2の可動部に、カメラ4とは別個のカメラが取り付けられ、精密検出部42は、その別個のカメラにより生成された画像に対して上記の実施形態と同様の処理を実行することで、ワーク10の位置及び姿勢を検出してもよい。あるいはまた、ロボット2の可動部に、デプスカメラといった距離センサが取り付けられてもよい。そして精密検出部42は、距離センサにより検知される、ワーク10の各部までの距離の測定値に基づいて、距離センサを基準とする、ワーク10の位置及び姿勢を検出すればよい。なお、その別個のカメラ及び距離センサは、位置情報取得部の他の一例であり、その別個のカメラにより生成される画像及び距離センサによる距離の測定値は、位置情報の他の一例である。
2 ロボット
3 制御装置
4 カメラ
5、7、8 通信回線
6 物体検出装置
11 台座
12 回転ステージ
13 第1のアーム
14 第2のアーム
15 リスト
16 ツール
21〜25 関節
31 通信インターフェース
32 駆動回路
33 メモリ
34 プロセッサ
35 サーボモータ
41 ロバスト検出部
42 精密検出部
43 判定部
44 アプローチ制御部
45 作業制御部
Claims (9)
- 対象物体を所定の方向から見たときの前記対象物体の外観の特徴を表すテンプレートを記憶する記憶部と、
前記対象物体を撮影して前記対象物体が表された画像を生成する撮像部と前記対象物体とが所定の位置関係を満たさない場合に、前記画像から前記対象物体を検出するように予め学習された識別器に前記画像を入力することで、前記画像上での前記対象物体の位置を検出するロバスト検出部と、
前記撮像部と前記対象物体とが前記所定の位置関係を満たす場合に、前記画像と前記テンプレートとを照合することで、前記画像上での前記対象物体の位置を検出する精密検出部と、
を有する物体検出装置。 - 前記ロバスト検出部は、検出された前記画像上での前記対象物体の位置に基づいて実空間での前記対象物体の位置を検出し、
前記精密検出部は、検出された前記画像上での前記対象物体の位置に基づいて実空間での前記対象物体の位置を検出する、請求項1に記載の物体検出装置。 - 前記精密検出部は、前記画像と前記テンプレートとが最も一致するときの前記画像に対する前記テンプレートの相対的な位置関係に応じて前記画像上での前記対象物体の位置及び姿勢を検出し、前記画像上での前記対象物体の位置及び姿勢に基づいて実空間での前記対象物体の位置及び姿勢を検出する、請求項2に記載の物体検出装置。
- 前記識別器は、前記画像に表された前記対象物体の姿勢を検出するようにさらに学習され、前記ロバスト検出部は、前記識別器に前記画像を入力することで前記画像上での前記対象物体の位置及び姿勢を検出し、前記画像上での前記対象物体の位置及び姿勢に基づいて実空間での前記対象物体の位置及び姿勢を検出する、請求項2または3に記載の物体検出装置。
- 前記対象物体の前記実空間での位置と前記撮像部との位置に応じて、前記撮像部と前記対象物体とが前記所定の位置関係を満たすか否か判定し、前記撮像部と前記対象物体とが前記所定の位置関係を満たさない場合に、前記ロバスト検出部に前記画像上での前記対象物体の位置を検出させ、一方、前記撮像部と前記対象物体とが前記所定の位置関係を満たす場合に、前記精密検出部に前記画像上での前記対象物体の位置を検出させる判定部をさらに有する、請求項2〜4の何れか一項に記載の物体検出装置。
- 少なくとも一つの可動部を有する自動機械の制御装置であって、
前記自動機械の作業対象となる対象物体を所定の方向から見たときの前記対象物体の外観の特徴を表すテンプレートを記憶する記憶部と、
前記可動部に取り付けられ、前記対象物体を撮影して前記対象物体が表された画像を生成する撮像部と前記対象物体とが所定の位置関係を満たさない場合に、前記画像から前記対象物体を検出するように予め学習された識別器に前記画像を入力することで、前記画像上での前記対象物体の位置を検出し、前記画像上での前記対象物体の位置に基づいて実空間での前記対象物体の位置を検出するロバスト検出部と、
前記撮像部と前記対象物体とが前記所定の位置関係を満たす場合に、前記画像と前記テンプレートとを照合することで、前記画像上での前記対象物体の位置を検出し、前記画像上での前記対象物体の位置に基づいて実空間での前記対象物体の位置を検出し、あるいは、前記対象物体に対する相対的な位置を表す位置情報を取得する位置情報取得部により得られた前記位置情報に基づいて実空間での前記対象物体の位置を検出する精密検出部と、
前記撮像部と前記対象物体とが前記所定の位置関係を満たさない場合に、前記ロバスト検出部により検出された実空間での前記対象物体の位置に基づいて、前記撮像部と前記対象物体とが前記所定の位置関係を満たすように前記可動部を制御するアプローチ制御部と、
前記撮像部と前記対象物体とが前記所定の位置関係を満たす場合に、前記精密検出部により検出された実空間での前記対象物体の位置に基づいて、前記対象物体に対して前記自動機械が所定の作業を実施可能な位置へ前記可動部を移動させるよう、前記可動部を制御する作業制御部と、
を有する制御装置。 - 前記所定の位置関係は、前記撮像部と前記対象物体間の距離が所定距離以下となることである、請求項6に記載の制御装置。
- 前記所定の位置関係は、前記撮像部と前記対象物体間の距離が所定距離以下であり、かつ、前記撮像部に対して前記対象物体が所定の姿勢となっていることであり、
前記識別器は、前記画像に表された前記対象物体の姿勢を検出するようにさらに学習され、前記ロバスト検出部は、前記識別器に前記画像を入力することで前記画像上での前記対象物体の位置及び姿勢を検出し、前記画像上での前記対象物体の位置及び姿勢に基づいて実空間での前記対象物体の位置及び姿勢を検出し、
前記アプローチ制御部は、前記ロバスト検出部により検出された実空間での前記対象物体の位置及び姿勢に基づいて、前記撮像部と前記対象物体間の距離が前記所定距離以下であり、かつ、前記撮像部に対して前記対象物体が前記所定の姿勢となるように前記可動部を制御する、請求項6に記載の制御装置。 - 対象物体を撮影して前記対象物体が表された画像を生成する撮像部と前記対象物体とが所定の位置関係を満たさない場合に、前記画像から前記対象物体を検出するように予め学習された識別器に前記画像を入力することで、前記画像上での前記対象物体の位置を検出し、
前記撮像部と前記対象物体とが前記所定の位置関係を満たす場合に、前記対象物体を所定の方向から見たときの前記対象物体の外観の特徴を表すテンプレートと前記画像とを照合することで、前記画像上での前記対象物体の位置を検出する、
ことをコンピュータに実行させるための物体検出用コンピュータプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019030506A JP6978454B2 (ja) | 2019-02-22 | 2019-02-22 | 物体検出装置、制御装置及び物体検出用コンピュータプログラム |
DE102020000964.6A DE102020000964A1 (de) | 2019-02-22 | 2020-02-14 | Objekterkennungsvorrichtung, Steuervorrichtung und Objekterkennungscomputerprogramm |
US16/790,742 US11285624B2 (en) | 2019-02-22 | 2020-02-14 | Object detection device, control device, and object detection computer program |
CN202010101889.8A CN111604942A (zh) | 2019-02-22 | 2020-02-19 | 物体检测装置、控制装置以及物体检测用计算机程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019030506A JP6978454B2 (ja) | 2019-02-22 | 2019-02-22 | 物体検出装置、制御装置及び物体検出用コンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020135623A JP2020135623A (ja) | 2020-08-31 |
JP6978454B2 true JP6978454B2 (ja) | 2021-12-08 |
Family
ID=72139035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019030506A Active JP6978454B2 (ja) | 2019-02-22 | 2019-02-22 | 物体検出装置、制御装置及び物体検出用コンピュータプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11285624B2 (ja) |
JP (1) | JP6978454B2 (ja) |
CN (1) | CN111604942A (ja) |
DE (1) | DE102020000964A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7122821B2 (ja) * | 2017-12-15 | 2022-08-22 | 川崎重工業株式会社 | ロボットシステム及びロボット制御方法 |
JP7135495B2 (ja) * | 2018-06-26 | 2022-09-13 | セイコーエプソン株式会社 | 三次元計測装置、制御装置およびロボットシステム |
US11845616B1 (en) * | 2020-08-11 | 2023-12-19 | Amazon Technologies, Inc. | Flattening and item orientation correction device |
CN112720431A (zh) * | 2021-01-13 | 2021-04-30 | 东南大学 | 一种六轴机械臂 |
JP2022138329A (ja) * | 2021-03-10 | 2022-09-26 | オムロン株式会社 | 認識装置、ロボット制御システム、認識方法、およびプログラム |
DE102021109336B4 (de) | 2021-04-14 | 2023-06-01 | Robert Bosch Gesellschaft mit beschränkter Haftung | Vorrichtung und Verfahren zum Trainieren eines Neuronalen Netzes zum Steuern eines Roboters für eine Einsetzaufgabe |
DE102021109333B4 (de) | 2021-04-14 | 2023-07-06 | Robert Bosch Gesellschaft mit beschränkter Haftung | Vorrichtung und Verfahren zum Trainieren eines Neuronalen Netzes zum Steuern eines Roboters für eine Einsetzaufgabe |
DE102021109332B4 (de) | 2021-04-14 | 2023-07-06 | Robert Bosch Gesellschaft mit beschränkter Haftung | Vorrichtung und Verfahren zum Steuern eines Roboters zum Einsetzen eines Objekts in eine Einsetzstelle |
DE102021109334B4 (de) | 2021-04-14 | 2023-05-25 | Robert Bosch Gesellschaft mit beschränkter Haftung | Vorrichtung und Verfahren zum Trainieren eines Neuronalen Netzes zum Steuern eines Roboters für eine Einsetzaufgabe |
DE102021130535B3 (de) | 2021-11-22 | 2023-05-17 | Helmut Gutzmann | System und Verfahren zur Positionierung einer bewegbaren Manipulatoreinheit |
CN116551701B (zh) * | 2023-07-10 | 2023-10-10 | 珠海格力电器股份有限公司 | 机器人控制方法、装置、电子设备及存储介质 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005056300A (ja) * | 2003-08-07 | 2005-03-03 | Yaskawa Electric Corp | 視覚フィードバック装置及び方法 |
CN101396829A (zh) | 2007-09-29 | 2009-04-01 | 株式会社Ihi | 机器人装置的控制方法以及机器人装置 |
JP5800494B2 (ja) * | 2010-11-19 | 2015-10-28 | キヤノン株式会社 | 特定領域選択装置、特定領域選択方法及びプログラム |
US10542959B2 (en) * | 2013-12-19 | 2020-01-28 | Koninklijke Philips N.V. | Object tracking device |
US9349076B1 (en) * | 2013-12-20 | 2016-05-24 | Amazon Technologies, Inc. | Template-based target object detection in an image |
US9424470B1 (en) * | 2014-08-22 | 2016-08-23 | Google Inc. | Systems and methods for scale invariant 3D object detection leveraging processor architecture |
JP2018126799A (ja) | 2017-02-06 | 2018-08-16 | セイコーエプソン株式会社 | 制御装置、ロボットおよびロボットシステム |
JP6376296B1 (ja) | 2017-02-09 | 2018-08-22 | 三菱電機株式会社 | 位置制御装置及び位置制御方法 |
DE112017007025T5 (de) * | 2017-02-09 | 2019-10-24 | Mitsubishi Electric Corporation | Positionssteuerungseinrichtung und positionssteuerungsverfahren |
JP6542824B2 (ja) * | 2017-03-13 | 2019-07-10 | ファナック株式会社 | 入力画像から検出した対象物の像の尤度を計算する画像処理装置および画像処理方法 |
JP2018167334A (ja) * | 2017-03-29 | 2018-11-01 | セイコーエプソン株式会社 | 教示装置および教示方法 |
JP6546618B2 (ja) | 2017-05-31 | 2019-07-17 | 株式会社Preferred Networks | 学習装置、学習方法、学習モデル、検出装置及び把持システム |
JP2018158439A (ja) | 2018-03-15 | 2018-10-11 | 株式会社東芝 | 物体ハンドリング装置、制御装置、および較正方法 |
-
2019
- 2019-02-22 JP JP2019030506A patent/JP6978454B2/ja active Active
-
2020
- 2020-02-14 US US16/790,742 patent/US11285624B2/en active Active
- 2020-02-14 DE DE102020000964.6A patent/DE102020000964A1/de active Pending
- 2020-02-19 CN CN202010101889.8A patent/CN111604942A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
CN111604942A (zh) | 2020-09-01 |
DE102020000964A1 (de) | 2020-08-27 |
JP2020135623A (ja) | 2020-08-31 |
US20200269448A1 (en) | 2020-08-27 |
US11285624B2 (en) | 2022-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6978454B2 (ja) | 物体検出装置、制御装置及び物体検出用コンピュータプログラム | |
US11117262B2 (en) | Intelligent robots | |
US20140018957A1 (en) | Robot system, robot, robot control device, robot control method, and robot control program | |
JP2012254518A (ja) | ロボット制御システム、ロボットシステム及びプログラム | |
JPH04344503A (ja) | ロボットの数値制御装置 | |
US10664939B2 (en) | Position control system, position detection device, and non-transitory recording medium | |
CN104915947A (zh) | 图像处理装置、***、图像处理方法及图像处理程序 | |
Husain et al. | Realtime tracking and grasping of a moving object from range video | |
US10207409B2 (en) | Image processing method, image processing device, and robot system | |
JP7359577B2 (ja) | ロボット教示装置及びロボットシステム | |
US11961255B2 (en) | Object detection device and object detection computer program | |
CN109079777B (zh) | 一种机械臂手眼协调作业*** | |
WO2021117479A1 (ja) | 情報処理装置、方法およびプログラム | |
JP7372076B2 (ja) | 画像処理システム | |
CN116749233A (zh) | 基于视觉伺服的机械臂抓取***及方法 | |
CN113232022B (zh) | 一种圆盘传送跟踪控制方法、***、装置及存储介质 | |
JP7376318B2 (ja) | アノテーション装置 | |
WO2021247641A1 (en) | Automatic detection and tracking of pallet pockets for automated pickup | |
Shaw et al. | Automatic classification of moving objects on an unknown speed production line with an eye-in-hand robot manipulator | |
JP2017068553A (ja) | 解析システム | |
JP2012236266A (ja) | ロボット制御システム、ロボットシステム及びプログラム | |
KR102515259B1 (ko) | Ai 물체 인식 학습용 라벨링 데이터 자동 수집 장치 | |
Lee et al. | Multi-sensor aided deep pose tracking | |
Hung et al. | A SIFT method application for a six DOF manipulator grasping an object against complicated environment | |
KR20240096990A (ko) | 비고정 물체를 위치 이동시키는 로봇의 제어 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200710 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211004 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211012 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6978454 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |