JP7315022B2 - 機械学習装置、機械学習方法、及び、機械学習プログラム - Google Patents
機械学習装置、機械学習方法、及び、機械学習プログラム Download PDFInfo
- Publication number
- JP7315022B2 JP7315022B2 JP2021560763A JP2021560763A JP7315022B2 JP 7315022 B2 JP7315022 B2 JP 7315022B2 JP 2021560763 A JP2021560763 A JP 2021560763A JP 2021560763 A JP2021560763 A JP 2021560763A JP 7315022 B2 JP7315022 B2 JP 7315022B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- unit
- machine learning
- unit data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010801 machine learning Methods 0.000 title claims description 110
- 238000001514 detection method Methods 0.000 claims description 69
- 238000006243 chemical reaction Methods 0.000 claims description 63
- 238000000034 method Methods 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 35
- 230000010365 information processing Effects 0.000 claims description 13
- 238000013519 translation Methods 0.000 claims description 6
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 238000002372 labelling Methods 0.000 description 37
- 230000002123 temporal effect Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 15
- 238000012544 monitoring process Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000007423 decrease Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/778—Active pattern-learning, e.g. online learning of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/778—Active pattern-learning, e.g. online learning of image or video features
- G06V10/7784—Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
- G06V10/7792—Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors the supervisor being an automated module, e.g. "intelligent oracle"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Description
図1は、本願発明の第1の実施の形態に係る機械学習装置10の構成を示すブロック図である。本実施形態に係る機械学習装置10は、監視カメラにより監視対象エリアが撮影された入力動画像100(時系列のデータ)に基づいて、例えば、人物が当該監視対象エリアに侵入したか否かを判定する際に用いる学習モデルを生成する装置である。尚、機械学習装置10が入力動画像100に基づいて機械学習を行う内容は、例えば、入力動画像100から目的とする対象物(歩行者や車両など)を検出することなどでもよい。
ただし、式1において、tは、入力動画像100における判定対象の画像を識別可能な時系列における識別子を表し、Tは転置ベクトルを表す符号である。
但し、式2において、a及びbは評価対象期間を定義するパラメータである。a及びbの値は、予め与えられた固定値でもよいし、所定の設定基準に従って動的に設定された値でもよい。
但し、式3において「dist」は[0,1]に正規化された距離関数を表す。式3に示す関数「dist」内における第2項(第二のベクトル)におけるXの添え字の部分は、集合τtから集合{t}を除いた差集合を表す。即ち、当該第2項は、評価対象期間τt内の画像Iに対する判定結果Xのうち、Xt(第一のベクトル)を除くXの平均値を表す。また、当該距離関数としては、周知の様々な関数が使用可能であり、例えば、「dist」内における第1項及び第2項のそれぞれを確率分布と見なした交差エントロピーを表す関数などでもよい。
但し、式4において、「mean」は平均値を表し、「dist」内における第2項は、平行移動や回転等の1以上の種別の画像変換処理のうちのi(iは任意の自然数)番目の種別の画像変換処理が施された画像に対する判定部13による判定結果を表す。
但し、式5において、δは0から1の間のいずれかの値をとる重み付けを示す係数である。
選択部12がラベルを付与する画像Itを選択する際に用いる選択基準の第二の例は、画像Itの全体に対する選択する画像Itが占める割合が所定の値β以下となるように、優先度Ytが最も高い画像Itから優先度Ytの順番に画像Itを選択することである。この場合、選択部12は、例えば式7を満たす画像Itを示す識別子tの集合Sβを求める。
但し、式7において、Yβ+、Yβ-は、それぞれ、値が集合Yにおける上位側の割合βに含まれる優先度の集合と、それ以外の優先度の集合を表し、min(Yβ+)、max(Yβ-)は、それぞれ、集合Yβ+に含まれる優先度の最低値と、集合Yβ-に含まれる優先度の最高値とを表す。また式7において、#Yβ+、#Yは、それぞれ、集合Yβ+、集合Yの要素数を表す。
但し、式8において、Cj+、Cj-は、それぞれ、チャンクCj(jは1乃至Mのいずれかの整数)の中で優先度の高さがγ番目までに含まれる優先度の集合と、チャンクCjに含まれるそれ以外の優先度の集合とを表す。また、式8において、#Cj+は、集合Cj+の要素数を表す。
図9は、本願発明の第2の実施形態に係る機械学習装置30の構成を示すブロック図である。機械学習装置30は、検出部31、及び、選択部32を備えている。但し、検出部31、及び、選択部32は、順に、検出手段、及び、選択手段の一例である。
上述した各実施形態において図1に示した機械学習装置10、あるいは、図9に示した機械学習装置30における各部は、専用のHW(HardWare)(電子回路)によって実現することができる。また、図1及び図9において、少なくとも、下記構成は、ソフトウェアプログラムの機能(処理)単位(ソフトウェアモジュール)と捉えることができる。
・検出部11及び31、
・選択部12及び32、
・判定部13及び33、
・変換部14、
・分割部15、
・生成部16。
・CPU(Central_Processing_Unit)901、
・ROM(Read_Only_Memory)902、
・RAM(Random_Access_Memory)903、
・ハードディスク(記憶装置)904、
・外部装置との通信インタフェース905、
・バス906(通信線)、
・CD-ROM(Compact_Disc_Read_Only_Memory)等の記録媒体907に格納されたデータを読み書き可能なリーダライタ908、
・モニターやスピーカ、キーボード等の入出力インタフェース909。
時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する判定結果において、時間の経過に伴う一貫性の崩れを検出する検出手段と、
前記検出手段による検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する選択手段と、
を備える機械学習装置。
前記選択手段は、前記検出結果に基づいて、前記単位データを前記教師データとして用いる優先度を算出し、前記優先度に基づいて前記教師データとして用いる前記単位データを選択する、
付記1に記載の機械学習装置。
前記単位データに対して所定の変換処理を行い、変換後の前記単位データを前記判定手段に入力する変換手段をさらに備え、
前記検出手段は、前記判定手段による前記単位データに対する判定結果において、前記変換処理に伴う一貫性の崩れを検出する、
付記2に記載の機械学習装置。
前記変換手段は、前記単位データが画像を表す場合において、前記所定の変換処理として、平行移動、回転、色調変換、部分欠落の少なくともいずれかを行う、
付記3に記載の機械学習装置。
前記選択手段は、前記検出手段による検出結果が示す、前記単位データに対する判定結果における、前記時間の経過に伴う一貫性の崩れを示す値と、前記変換処理に伴う一貫性の崩れを示す値と、に対して、重み付けを施した値の合計を算出する、
付記3または付記4に記載の機械学習装置。
前記検出手段は、前記単位データの所定の集合のうちの、特定の前記単位データに対する前記判定結果を表す第一のベクトルと、前記所定の集合における前記特定の単位データを除く前記単位データに対する前記判定結果の平均を表す第二のベクトルとの距離を、前記時間の経過に伴う一貫性の崩れを表す値として算出する、
付記2乃至付記5のいずれか一項に記載の機械学習装置。
前記選択手段は、前記優先度が閾値以上である前記単位データを選択する、
付記2乃至付記6のいずれか一項に記載の機械学習装置。
前記選択手段は、前記単位データの全体に対する選択する前記単位データが占める割合が所定の値以下となるように、前記優先度が最も高い前記単位データから前記優先度の順番に前記単位データを選択する、
付記2乃至付記6のいずれか一項に記載の機械学習装置。
前記選択手段は、選択する前記単位データの個数が所定の値以下となるように、前記優先度が最も高い前記単位データから前記優先度の順番に前記単位データを選択する、
付記2乃至付記6のいずれか一項に記載の機械学習装置。
前記時系列のデータを、複数の時間的に連続するチャンクに分割する分割手段をさらに備え、
前記検出手段は、前記チャンクごとに、前記単位データに対する判定結果において、前記時間の経過に伴う一貫性の崩れを検出し、
前記選択手段は、前記チャンクごとに、前記教師データとして用いる前記単位データを選択する、
付記1乃至付記9のいずれか一項に記載の機械学習装置。
前記分割手段は、前記時系列のデータにおける、前記所定の判定に関するイベントの発生状況に基づいて、前記時系列のデータを前記チャンクに分割する、
付記10に記載の機械学習装置。
前記選択手段により選択された前記単位データをユーザに提示したのち、前記ユーザによる入力操作によって入力された正解情報を前記単位データに付与することによって前記教師データを生成する生成手段をさらに備える、
付記1乃至付記11のいずれか一項に記載の機械学習装置。
前記生成手段は、前記選択手段により選択された1以上の前記単位データの時間軸における位置、及び、1以上の前記単位データに対する前記正解情報の付与状況を前記ユーザに提示する、
付記12に記載の機械学習装置。
前記生成手段は、前記選択手段により選択された1以上の前記単位データの各々を表す画像を、表示画面において表示基準に従って順番に表示するとともに、表示した1以上の前記単位データのいずれかを前記ユーザが選択する入力操作を受け付ける、
付記12または付記13に記載の機械学習装置。
前記生成手段は、前記表示基準として、時系列の順番、あるいは前記検出結果に基づいて、前記単位データを前記教師データとして用いる優先度の順番を用いる、
付記14に記載の機械学習装置。
前記判定手段をさらに備える、
付記1乃至付記15のいずれか一項に記載の機械学習装置。
情報処理装置によって、
時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する判定結果において、時間の経過に伴う一貫性の崩れを検出し、
前記一貫性の崩れの検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する、
機械学習方法。
時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する判定結果において、時間の経過に伴う一貫性の崩れを検出する検出処理と、
前記検出処理による検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する選択処理と、
をコンピュータに実行させるための機械学習プログラムが格納された記録媒体。
100 入力動画像
11 検出部
12 選択部
13 判定部
130 学習モデル
14 変換部
15 分割部
16 生成部
160 教師データ
20 管理端末装置
200 表示画面
30 機械学習装置
300 時系列のデータ
301 単位データ
31 検出部
32 選択部
320 教師データ
33 判定部
330 学習モデル
900 情報処理装置
901 CPU
902 ROM
903 RAM
904 ハードディスク(記憶装置)
905 通信インタフェース
906 バス
907 記録媒体
908 リーダライタ
909 入出力インタフェース
Claims (10)
- 時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する前記学習モデルを用いた判定結果において、時間の経過に伴う一貫性の崩れを検出する検出手段と、
前記検出手段による検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する選択手段と、
を備える機械学習装置。 - 前記選択手段は、前記検出結果に基づいて、前記単位データを前記教師データとして用いる優先度を算出し、前記優先度に基づいて前記教師データとして用いる前記単位データを選択する、
請求項1に記載の機械学習装置。 - 前記単位データに対して所定の変換処理を行い、変換後の前記単位データを前記判定手段に入力する変換手段をさらに備え、
前記検出手段は、前記判定手段による前記単位データに対する前記判定結果において、前記変換処理に伴う一貫性の崩れを検出する、
請求項2に記載の機械学習装置。 - 前記変換手段は、前記単位データが画像を表す場合において、前記変換処理として、平行移動、回転、色調変換、部分欠落の少なくともいずれかを行う、
請求項3に記載の機械学習装置。 - 前記選択手段は、前記検出結果が示す、前記単位データに対する前記判定結果における、前記時間の経過に伴う一貫性の崩れを示す値と、前記変換処理に伴う一貫性の崩れを示す値と、に対して、重み付けを施した値の合計を算出する、
請求項3または請求項4に記載の機械学習装置。 - 前記検出手段は、前記単位データの所定の集合のうちの、特定の前記単位データに対する前記判定結果を表す第一のベクトルと、前記集合における特定の前記単位データを除く前記単位データに対する前記判定結果の平均を表す第二のベクトルとの距離を、前記時間の経過に伴う一貫性の崩れを表す値として算出する、
請求項2乃至請求項5のいずれか一項に記載の機械学習装置。 - 前記時系列のデータを、複数の時間的に連続するチャンクに分割する分割手段をさらに備え、
前記検出手段は、前記チャンクごとに、前記単位データに対する前記判定結果において、前記時間の経過に伴う一貫性の崩れを検出し、
前記選択手段は、前記チャンクごとに、前記教師データとして用いる前記単位データを選択する、
請求項1乃至請求項6のいずれか一項に記載の機械学習装置。 - 前記選択手段により選択された前記単位データをユーザに提示したのち、前記ユーザによる入力操作によって入力された正解情報を前記単位データに付与することによって前記教師データを生成する生成手段をさらに備える、
請求項1乃至請求項7のいずれか一項に記載の機械学習装置。 - 情報処理装置によって、
時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する前記学習モデルを用いた判定結果において、時間の経過に伴う一貫性の崩れを検出し、
前記一貫性の崩れの検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する、
機械学習方法。 - 時系列のデータを構成する1以上の単位データに対して所定の判定を行う際に用いる学習モデルを生成した判定手段から出力された、前記単位データに対する前記学習モデルを用いた判定結果において、時間の経過に伴う一貫性の崩れを検出する検出処理と、
前記検出処理による検出結果に基づいて、前記判定手段が前記学習モデルを更新する際に教師データとして用いる前記単位データを選択する選択処理と、
をコンピュータに実行させるための機械学習プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/045908 WO2021106028A1 (ja) | 2019-11-25 | 2019-11-25 | 機械学習装置、機械学習方法、及び、機械学習プログラムが格納された記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JPWO2021106028A1 JPWO2021106028A1 (ja) | 2021-06-03 |
JPWO2021106028A5 JPWO2021106028A5 (ja) | 2022-06-22 |
JP7315022B2 true JP7315022B2 (ja) | 2023-07-26 |
Family
ID=76130092
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021560763A Active JP7315022B2 (ja) | 2019-11-25 | 2019-11-25 | 機械学習装置、機械学習方法、及び、機械学習プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220405894A1 (ja) |
JP (1) | JP7315022B2 (ja) |
WO (1) | WO2021106028A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023177871A (ja) * | 2022-06-03 | 2023-12-14 | パナソニックIpマネジメント株式会社 | 学習装置および学習方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016076073A (ja) | 2014-10-06 | 2016-05-12 | 日本電気株式会社 | データ処理装置、データ処理方法、及び、コンピュータ・プログラム |
JP2018081545A (ja) | 2016-11-17 | 2018-05-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 画像データ抽出装置及び画像データ抽出方法 |
-
2019
- 2019-11-25 US US17/778,576 patent/US20220405894A1/en active Pending
- 2019-11-25 JP JP2021560763A patent/JP7315022B2/ja active Active
- 2019-11-25 WO PCT/JP2019/045908 patent/WO2021106028A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016076073A (ja) | 2014-10-06 | 2016-05-12 | 日本電気株式会社 | データ処理装置、データ処理方法、及び、コンピュータ・プログラム |
JP2018081545A (ja) | 2016-11-17 | 2018-05-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 画像データ抽出装置及び画像データ抽出方法 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021106028A1 (ja) | 2021-06-03 |
WO2021106028A1 (ja) | 2021-06-03 |
US20220405894A1 (en) | 2022-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10896351B2 (en) | Active machine learning for training an event classification | |
JP6446971B2 (ja) | データ処理装置、データ処理方法、及び、コンピュータ・プログラム | |
US20180107881A1 (en) | Anomalous event retriever | |
US20180174062A1 (en) | Root cause analysis for sequences of datacenter states | |
JP2008250908A (ja) | 映像判別方法および映像判別装置 | |
US10289884B2 (en) | Image analyzer, image analysis method, computer program product, and image analysis system | |
CN111783665A (zh) | 一种动作识别方法、装置、存储介质和电子设备 | |
JP2017102906A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2017102865A (ja) | 情報処理装置、情報処理方法及びプログラム | |
EP4036792A1 (en) | Method and device for classifying pixels of an image | |
JP6577397B2 (ja) | 画像解析装置、画像解析方法、画像解析プログラム、および画像解析システム | |
US11455489B2 (en) | Device that updates recognition model and method of updating recognition model | |
CN112613349A (zh) | 基于深度混合卷积神经网络的时序动作检测方法及装置 | |
JP7315022B2 (ja) | 機械学習装置、機械学習方法、及び、機械学習プログラム | |
JP2020170252A (ja) | 画像処理装置、情報処理方法及びプログラム | |
EP2608152B1 (en) | Medical imaging diagnosis apparatus and medical imaging diagnosis method for providing diagnostic basis | |
KR102230559B1 (ko) | 데이터 프로그래밍에 기반한 레이블링 모델 생성 방법 및 장치 | |
JP2021111228A (ja) | 学習装置、学習方法、及びプログラム | |
US20070043722A1 (en) | Classification system | |
JP2010128947A (ja) | 非定常度推定装置、非定常度推定方法、非定常度推定プログラム | |
US20220405299A1 (en) | Visualizing feature variation effects on computer model prediction | |
JP2020204800A (ja) | 学習用データセット生成システム、学習サーバ、及び学習用データセット生成プログラム | |
KR102342495B1 (ko) | 데이터 프로그래밍에 기반한 레이블링 모델 생성 방법 및 장치 | |
AU2021251463B2 (en) | Generating performance predictions with uncertainty intervals | |
US11657099B2 (en) | Information processing apparatus evaluating similarity between medical data, information processing method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220413 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220413 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230602 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230613 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230626 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7315022 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |