JP6929322B2 - データ拡張システム、データ拡張方法、及びプログラム - Google Patents
データ拡張システム、データ拡張方法、及びプログラム Download PDFInfo
- Publication number
- JP6929322B2 JP6929322B2 JP2019102682A JP2019102682A JP6929322B2 JP 6929322 B2 JP6929322 B2 JP 6929322B2 JP 2019102682 A JP2019102682 A JP 2019102682A JP 2019102682 A JP2019102682 A JP 2019102682A JP 6929322 B2 JP6929322 B2 JP 6929322B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- processing
- input
- machine learning
- learning model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
- G06V10/7747—Organisation of the process, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
- G06F18/2178—Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Description
以下、本発明に係るデータ拡張システムの実施形態の例を説明する。図1は、データ拡張システムの全体構成を示す図である。図1に示すように、データ拡張システムSは、サーバ10及びユーザ端末20を含み、これらは、インターネットなどのネットワークNに接続可能である。なお、図1では、サーバ10及びユーザ端末20の各々を1台ずつ示しているが、これらは複数台あってもよい。
本実施形態のデータ拡張システムSは、機械学習モデルに入力される入力データの特徴部分を特定し、特徴部分の少なくとも一部を加工した加工データに基づいて、データ拡張をする。
図5は、データ拡張システムSで実現される機能の一例を示す機能ブロック図である。図5に示すように、データ拡張システムSでは、データ記憶部100、入力部101、特定部102、加工部103、及びデータ拡張部104が実現される。本実施形態では、これら各機能がサーバ10によって実現される場合を説明する。
データ記憶部100は、記憶部12を主として実現される。データ記憶部100は、本実施形態で説明する処理を実行するために必要なデータを記憶する。ここでは、データ記憶部100が記憶するデータの一例として、教師データセットDSと、機械学習モデルMと、について説明する。
入力部101は、制御部11を主として実現される。入力部101は、認識を行う機械学習モデルMに入力画像を入力する。例えば、機械学習モデルMは、入力画像が入力されると入力画像の特徴量を計算し、当該計算された特徴量に基づいて入力画像を分類し、入力画像が属する分類を示す分類情報を出力する。分類情報は、1つだけ出力されてもよいし、複数の分類情報が出力されてもよい。
特定部102は、制御部11を主として実現される。特定部102は、入力画像を入力とした機械学習モデルMによる認識における根拠となる入力画像の特徴部分を特定する。先述したように、本実施形態では、認識を行う機械学習モデルMと、ヒートマップHを生成する手段と、が互いに別々であり、Grad−CAMと呼ばれる手法を利用して特徴部分が特定される場合を説明する。
加工部103は、制御部11を主として実現される。加工部103は、特徴部分の少なくとも一部を加工して加工画像を取得する。加工画像は、入力画像とは別の画像なので、加工部103は、入力画像を上書きして加工画像とするのではなく、入力画像とは別画像(別データ)として、加工画像を生成(新規作成又はファイル名を変えて保存)する。
データ拡張部104は、制御部11を主として実現される。データ拡張部104は、加工画像に基づいて、データ拡張をする。例えば、データ拡張部104は、加工画像に基づいて教師データを生成し、データ拡張をする。
図7は、データ拡張システムSにおいて実行される処理の一例を示すフロー図である。図7に示す処理は、制御部11,21が記憶部12,22に記憶されたプログラムに従って動作することによって実行される。下記に説明する処理は、図5に示す機能ブロックにより実行される処理の一例である。なお、以降の処理が実行されるにあたり、ユーザは、教師データセットDSを作成してサーバ10にアップロードしているものとする。また、機械学習モデルMが教師データセットDSを学習済みであるものとする。
なお、本発明は、以上に説明した実施の形態に限定されるものではない。本発明の趣旨を逸脱しない範囲で、適宜変更可能である。
Claims (19)
- 認識を行う学習済みの機械学習モデルに入力データを入力する入力手段と、
前記入力データが入力されて前記機械学習モデルが行った認識において根拠とされた前記入力データの特徴部分を特定する特定手段と、
特定された前記特徴部分の少なくとも一部を加工して加工データを取得する加工手段と、
前記加工データに基づいて、前記機械学習モデルの追加学習を行うために、データ拡張をするデータ拡張手段と、
を含むことを特徴とするデータ拡張システム。 - 前記データ拡張手段は、前記加工データと、前記加工データの元となった前記入力データの分類を示す分類情報と、のペアに基づいて、前記データ拡張をする、
ことを特徴とする請求項1に記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の少なくとも一部の特徴が低減又は消えて他の部分の特徴が学習されるように、前記特徴部分の少なくとも一部を加工して前記加工データを取得する、
ことを特徴とする請求項1又は2に記載のデータ拡張システム。 - 前記特徴部分は、前記機械学習モデルの認識対象のうちの一部分であり、
前記加工手段は、前記一部分の少なくとも一部を加工して前記加工データを取得する、
ことを特徴とする請求項1〜3の何れかに記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の一部を加工対象部分として選択し、当該選択した加工対象部分を加工して前記加工データを取得する、
ことを特徴とする請求項1〜4の何れかに記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分内の領域ごとに算出されるスコアに基づいて、前記加工対象部分を選択する、
ことを特徴とする請求項5に記載のデータ拡張システム。 - 前記加工手段は、互いに異なる複数の前記加工対象部分を選択し、当該選択した複数の加工対象部分に基づいて、複数の前記加工データを取得し、
前記データ拡張手段は、前記複数の加工データに基づいて、前記データ拡張をする、
ことを特徴とする請求項5又は6に記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の中から、前記複数の加工対象部分をランダムに選択する、
ことを特徴とする請求項7に記載のデータ拡張システム。 - 前記特定手段は、複数の前記特徴部分を特定し、
前記加工手段は、前記複数の特徴部分に基づいて、複数の前記加工データを取得し、
前記データ拡張手段は、前記複数の加工データに基づいて、前記データ拡張をする、
ことを特徴とする請求項1〜8の何れかに記載のデータ拡張システム。 - 前記入力データは、前記機械学習モデルに入力される入力画像であり、
前記特定手段は、前記入力画像の特徴部分を特定し、
前記加工手段は、前記特徴部分の少なくとも一部を加工して加工画像を取得し、
前記データ拡張手段は、前記加工画像に基づいて、前記データ拡張をする、
ことを特徴とする請求項1〜9の何れかに記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の少なくとも一部にマスク処理を施して前記加工画像を取得し、
前記データ拡張手段は、前記マスク処理が施された前記加工画像に基づいて、前記データ拡張をする、
ことを特徴とする請求項10に記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の少なくとも一部にインペインティング処理を施して前記加工画像を取得し、
前記データ拡張手段は、前記インペインティング処理が施された前記加工画像に基づいて、前記データ拡張をする、
ことを特徴とする請求項10に記載のデータ拡張システム。 - 前記加工手段は、前記特徴部分の少なくとも一部に、輝度を低下させる輝度処理、透明度を上げる透明度処理、ユーザが指定した色又は予め定められた色で塗りつぶす色処理、ぼかし処理、又はノイズ処理を施して前記加工画像を取得し、
前記データ拡張手段は、前記輝度処理、前記透明度処理、前記色処理、前記ぼかし処理、又は前記ノイズ処理が施された前記加工画像に基づいて、前記データ拡張をする、
ことを特徴とする請求項10に記載のデータ拡張システム。 - 前記特定手段は、前記機械学習モデルから出力される前記認識の結果に基づいて前記特徴部分を特定する、
ことを特徴とする請求項1〜13の何れかに記載のデータ拡張システム。 - 前記機械学習モデルは、少なくとも1以上の畳み込み層を含むモデルであり、
前記特定手段は、前記畳み込み層から出力される特徴マップに更に基づいて前記特徴部分を特定する、
ことを特徴とする請求項14に記載のデータ拡張システム。 - 前記機械学習モデルは、前記認識の結果と、前記認識結果に対する活性化マップを出力し、
前記特定手段は、前記活性化マップに基づいて前記特徴部分を特定する、
ことを特徴とする請求項1〜15の何れかに記載のデータ拡張システム。 - 前記機械学習モデルは、複数の教師データを含む教師データセットが学習済みであり、
前記入力データは、前記教師データセットに含まれており、
前記データ拡張手段は、前記加工データを含む教師データを前記教師データセットに追加することによって、前記データ拡張をする、
ことを特徴とする請求項1〜16の何れかに記載のデータ拡張システム。 - 認識を行う学習済みの機械学習モデルに入力データを入力する入力ステップと、
前記入力データが入力されて前記機械学習モデルが行った認識において根拠とされた前記入力データの特徴部分を特定する特定ステップと、
特定された前記特徴部分の少なくとも一部を加工して加工データを取得する加工ステップと、
前記加工データに基づいて、前記機械学習モデルの追加学習を行うために、データ拡張をするデータ拡張ステップと、
を含むことを特徴とするデータ拡張方法。 - 認識を行う学習済みの機械学習モデルに入力データを入力する入力手段、
前記入力データが入力されて前記機械学習モデルが行った認識において根拠とされた前記入力データの特徴部分を特定する特定手段、
特定された前記特徴部分の少なくとも一部を加工して加工データを取得する加工手段、
前記加工データに基づいて、前記機械学習モデルの追加学習を行うために、データ拡張をするデータ拡張手段、
としてコンピュータを機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019102682A JP6929322B2 (ja) | 2019-05-31 | 2019-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
US16/885,270 US11436436B2 (en) | 2019-05-31 | 2020-05-28 | Data augmentation system, data augmentation method, and information storage medium |
JP2021090989A JP7303844B2 (ja) | 2019-05-31 | 2021-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019102682A JP6929322B2 (ja) | 2019-05-31 | 2019-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021090989A Division JP7303844B2 (ja) | 2019-05-31 | 2021-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020197833A JP2020197833A (ja) | 2020-12-10 |
JP6929322B2 true JP6929322B2 (ja) | 2021-09-01 |
Family
ID=73551592
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019102682A Active JP6929322B2 (ja) | 2019-05-31 | 2019-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
JP2021090989A Active JP7303844B2 (ja) | 2019-05-31 | 2021-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021090989A Active JP7303844B2 (ja) | 2019-05-31 | 2021-05-31 | データ拡張システム、データ拡張方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11436436B2 (ja) |
JP (2) | JP6929322B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210406693A1 (en) * | 2020-06-25 | 2021-12-30 | Nxp B.V. | Data sample analysis in a dataset for a machine learning model |
WO2022168441A1 (ja) * | 2021-02-05 | 2022-08-11 | ソニーグループ株式会社 | 推論装置、推論方法およびプログラム |
JP6955734B1 (ja) * | 2021-03-08 | 2021-10-27 | 株式会社データグリッド | 画像データ生成方法、学習方法、画像データ生成システム、学習システムおよびプログラム |
JP2023069054A (ja) * | 2021-11-04 | 2023-05-18 | 国立大学法人京都大学 | 情報処理装置、情報処理方法および情報処理プログラム |
JP7383684B2 (ja) * | 2021-12-08 | 2023-11-20 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理方法、並びにプログラム |
US20240135685A1 (en) * | 2021-12-27 | 2024-04-25 | Rakuten Group, Inc. | Information processing apparatus and method |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10769531B2 (en) * | 2015-06-05 | 2020-09-08 | Cisco Technology, Inc. | Methods and systems for counting people |
US9864931B2 (en) * | 2016-04-13 | 2018-01-09 | Conduent Business Services, Llc | Target domain characterization for data augmentation |
US11580398B2 (en) * | 2016-10-14 | 2023-02-14 | KLA-Tenor Corp. | Diagnostic systems and methods for deep learning models configured for semiconductor applications |
US10318889B2 (en) | 2017-06-26 | 2019-06-11 | Konica Minolta Laboratory U.S.A., Inc. | Targeted data augmentation using neural style transfer |
JP2019102682A (ja) * | 2017-12-05 | 2019-06-24 | 株式会社プロスパイン | 永電磁ホルダおよび永電磁ホルダ装置 |
US10817805B2 (en) * | 2018-05-18 | 2020-10-27 | Google Llc | Learning data augmentation policies |
CN109086691B (zh) * | 2018-07-16 | 2020-02-21 | 阿里巴巴集团控股有限公司 | 一种三维脸部活体检测方法、脸部认证识别方法及装置 |
KR102641116B1 (ko) * | 2018-08-23 | 2024-02-27 | 삼성전자주식회사 | 데이터 증강에 기초한 인식 모델 트레이닝 방법 및 장치, 이미지 인식 방법 및 장치 |
KR102439606B1 (ko) * | 2018-10-30 | 2022-09-01 | 삼성에스디에스 주식회사 | 전이 학습을 위한 기반 모델 결정 방법 및 그 방법을 지원하는 장치 |
TWI671652B (zh) * | 2018-11-26 | 2019-09-11 | 財團法人資訊工業策進會 | 模型建置裝置與負載解析系統 |
US10776164B2 (en) * | 2018-11-30 | 2020-09-15 | EMC IP Holding Company LLC | Dynamic composition of data pipeline in accelerator-as-a-service computing environment |
-
2019
- 2019-05-31 JP JP2019102682A patent/JP6929322B2/ja active Active
-
2020
- 2020-05-28 US US16/885,270 patent/US11436436B2/en active Active
-
2021
- 2021-05-31 JP JP2021090989A patent/JP7303844B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2021120914A (ja) | 2021-08-19 |
US11436436B2 (en) | 2022-09-06 |
US20200380302A1 (en) | 2020-12-03 |
JP7303844B2 (ja) | 2023-07-05 |
JP2020197833A (ja) | 2020-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6929322B2 (ja) | データ拡張システム、データ拡張方法、及びプログラム | |
JP7011146B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び教師データ生成方法 | |
US10657652B2 (en) | Image matting using deep learning | |
US10019655B2 (en) | Deep-learning network architecture for object detection | |
US10600171B2 (en) | Image-blending via alignment or photometric adjustments computed by a neural network | |
CN108564103A (zh) | 数据处理方法与装置 | |
US9449253B2 (en) | Learning painting styles for painterly rendering | |
KR102525181B1 (ko) | 이미지 수정 시스템 및 이의 이미지 수정 방법 | |
CN111046763A (zh) | 一种人像卡通化的方法和装置 | |
CN111243050A (zh) | 肖像简笔画生成方法、***及绘画机器人 | |
Lee et al. | The surprisingly straightforward scene text removal method with gated attention and region of interest generation: A comprehensive prominent model analysis | |
KR102430743B1 (ko) | 데이터 증강 기반 사물 분석 모델 학습 장치 및 방법 | |
CN113781271A (zh) | 化妆教学方法及装置、电子设备、存储介质 | |
KR102659290B1 (ko) | 모자이크 생성 장치 및 방법 | |
US10198791B2 (en) | Automatic correction of facial sentiment of portrait images | |
KR20200019296A (ko) | 표정 인식 모델 생성 장치, 방법 및 이러한 방법을 수행하도록 프로그램된 컴퓨터 프로그램을 저장하는 컴퓨터 판독가능한 기록매체 | |
CN110796150B (zh) | 一种基于情感显著性区域检测的图片情感识别方法 | |
CN112836467A (zh) | 一种图像处理方法及装置 | |
CN111062862A (zh) | 基于颜色的数据增强方法和***及计算机设备和存储介质 | |
CN111833420B (zh) | 基于真人的图画自动生成方法、装置、***及存储介质 | |
CN117237542B (zh) | 基于文本的三维人体模型生成方法和装置 | |
Zhang et al. | Interactive creation of Chinese calligraphy with the application in calligraphy education | |
US12051135B2 (en) | System and method for a precise semantic segmentation | |
US20230071291A1 (en) | System and method for a precise semantic segmentation | |
Gunnarsson | Panoptic segmentation in video |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200814 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201020 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210114 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210302 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210531 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20210531 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20210609 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20210615 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210810 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6929322 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |