JP6763417B2 - 電子機器 - Google Patents
電子機器 Download PDFInfo
- Publication number
- JP6763417B2 JP6763417B2 JP2018076545A JP2018076545A JP6763417B2 JP 6763417 B2 JP6763417 B2 JP 6763417B2 JP 2018076545 A JP2018076545 A JP 2018076545A JP 2018076545 A JP2018076545 A JP 2018076545A JP 6763417 B2 JP6763417 B2 JP 6763417B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- control device
- template image
- template
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000008859 change Effects 0.000 claims description 26
- 238000000034 method Methods 0.000 description 91
- 230000008569 process Effects 0.000 description 83
- 239000002131 composite material Substances 0.000 description 68
- 230000009467 reduction Effects 0.000 description 13
- 230000004048 modification Effects 0.000 description 10
- 238000012986 modification Methods 0.000 description 10
- 238000002372 labelling Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Description
118 < aveCb < 138 ・・・(1)
sigCb < abs(aveCb-128)+3 ・・・(2)
thCb = α×sigCb×[{abs(aveCb−128)+3}/sigCb]1/2×[10/{abs(aveCb-128)+0.1}]1/2 ・・・(3)
なお、式(2)および(3)において、absは絶対値をとる関数である。また、式(3)において、αは例えば0.6とする。
IM=ΣΣ{(x−xg)2+(y−yg)2) ・・・(4)
なお、式(4)において、(x,y)は、マスクの画素の座標であり、(xg,yg)は、追尾被写***置の座標である。
評価値=(マスク面積)β/IM ・・・(5)
なお、式(5)においては、βの値は1より大きな値が好ましく、例えば1.5とする。
Objectsize=floor(Rect/3)×3 ・・・(6)
なお、式(6)において、floorは小数点以下の切り捨てを行う関数である。
Shuku=24/ObjectSize ・・・(7)
Search=TM_ImageWidth×Keisu ・・・(8)
If(ObjectSize>=60) →Geta=50
else Geta=24 ・・・(9)
Geta1=Geta×Shuku ・・・(10)
SearchWidth=Minzansa×Search+Geta1 ・・・(11)
TM_Ystart=ObjectY−(SearchWidth+1)−TempSize/2 ・・・(12)
TM_Yend=ObjectY+SearchWidth+TempSize/2 ・・・(13)
TM_Xstart=ObjectX−(SearchWidth+1)−TempSize/2 ・・・(14)
TM_Xend=ObjectX+SearchWidth+TempSize/2 ・・・(15)
Kyori(x,y)=Kyori0+K(|x−Mx×Shuku|+|y−My×Shuku|) ・・・(16)
なお、式(16)において、(x,y)は、探索エリア内の各画素の座標であり、Mxは前フレームで特定された追尾被写***置のx座標、Myは前フレームで特定された追尾被写***置のy座標である。また、本実施形態では、Kyori0=1.0、K=0.05とする。
SADall=1/N(GainY×SADY+GainCb×SADCb+GainCr×SADCb) ・・・(17)
なお、式(17)において、本実施形態では、GainY=0.1、GainCb=1.5、GainCr=1.5とする。また、NはSADの正規化係数であり、N=Tempsize×Tempsize×255とする。
Objx=Mx+Tempsize/2 ・・・(18)
Objy=My+Tempsize/2 ・・・(19)
Obj_YStart=My/Shuku ・・・(20)
Obj_YEnd=(My+Tempsize−1)/Shuku ・・・(21)
Obj_XStart=Mx/Shuku ・・・(22)
Obj_XEnd=(Mx+Tempsize−1)/Shuku ・・・(23)
条件(1)・・・上記最小絶対差分和があらかじめ設定されている判定閾値よりも小さい(すなわち最大類似度が所定以上の高さである)こと
条件(2)・・・所定の回数(例えば3回)以上連続して、同じテンプレート画像から生成された類似度マップから最大類似度が算出されたこと
If(ObjectSize≧240) → ObjectSize=240
elseif(ObjectSize≧120) → ObjectSize=ObjectSize+15
elseif(ObjectSize≧60) → ObjectSize=ObjectSize+12
elseif(ObjectSize≧48) → ObjectSize=ObjectSize+9
elseif(ObjectSize≧27) → ObjectSize=ObjectSize+6
else →ObjectSize=ObjectSize+3 ・・・(24)
If(ObjectSize≧105) → ObjectSize=ObjectSize−15
elseif(ObjectSize≧72) → ObjectSize=ObjectSize−12
elseif(ObjectSize≧33) → ObjectSize=ObjectSize−9
elseif(ObjectSize≧24) → ObjectSize=ObjectSize−6
elseif(ObjectSize≦6) → ObjectSize=6
else →ObjectSize=ObjectSize−3 ・・・(25)
(1)被写体追尾装置は、入力画像(フレーム画像)内に探索エリアを設定する制御装置104と、追尾用テンプレート画像(初期テンプレート画像および合成テンプレート画像)と探索エリア内の画像との類似度を演算する制御装置104と、当該演算した類似度に基づいて、フレーム画像内における追尾被写***置を特定する制御装置104と、合成テンプレート画像に基づいて生成された第1〜第9リサイズ判定用テンプレート画像と探索エリア内の画像との類似度をそれぞれ演算する制御装置104と、当該演算した類似度に基づいて、フレーム画像内における第1〜第9リサイズ判定用テンプレート画像のマッチング位置をそれぞれ特定する制御装置104と、上記特定したマッチング位置の疎密度合い(すなわち、上記現在距離における上記初期距離からの変化度合い)に基づいて、追尾用テンプレート画像およびリサイズ判定用テンプレート画像の画像サイズを変更する制御装置104と、を備えるので、追尾被写体の大きさの変化に応じてテンプレート画像のサイズを変更することができる。したがって、大きさが変化する被写体を精度よく追尾することができる。
上述した実施の形態では、合成テンプレート画像を3×3のブロックに分割し、分割した各ブロックの中心位置を中心とし、合成テンプレート画像と同一のサイズである画像を、第1〜第9リサイズ判定用テンプレート画像として生成する例について説明した。しかしながら、3×3に限らず、その他の個数のブロックに合成テンプレート画像を分割し、分割した各ブロックを含む画像をリサイズ判定用テンプレート画像として生成してもよい。
上述した実施の形態では、追尾被写体の大きさを示すオブジェクトサイズが24画素よりも大きい場合は、縮小倍率Shukuで縮小したフレーム画像において24×24画素のテンプレート画像を生成する例について説明した。しかしながら、テンプレートマッチング処理で扱えるテンプレート画像の大きさの最大値に制限がない場合には、オブジェクトサイズの大きさに係らず、Objectsize×Objectsizeのテンプレート画像を生成するようにしてもよい。
上述した実施の形態では、追尾被写***置を特定するために用いる追尾用テンプレート画像として、初期テンプレート画像および合成テンプレート画像を用いる例について説明した。しかしながら、追尾用テンプレート画像として、初期テンプレート画像のみ、または合成テンプレート画像のみを用いるようにしてもよい。また例えば、現フレームにおけるマッチング領域内の画像を次フレームにおける追尾用テンプレート画像として用いるようにしてもよい。
上述した実施の形態では、初期テンプレート画像および合成テンプレート画像のサイズと、リサイズ判定用テンプレート画像のサイズとを同一サイズとする例について説明した。しかしながら、初期テンプレート画像および合成テンプレート画像のサイズと、リサイズ判定用テンプレート画像のサイズとが異なっていてもよい。
上述した実施の形態では、制御装置104は、フレーム画像に対して行った2値化処理およびラベリング処理の結果を用いて、初期テンプレート画像を生成する例について説明した。しかしながら、他の方法によって初期テンプレート画像を生成してもよい。例えば、制御装置104は、使用者に対してフレーム画像内における追尾被写体エリアの指定を促し、使用者が操作部材101を操作して入力したエリア内の画像を切り出すことにより、初期テンプレート画像を生成してもよい。
上述した実施の形態では、画像のリサイズ方法としてバイリニア法を用いる例について説明した。しかしながら、画像のリサイズ方法として、ニアリストネイバー法、またはバイキュービック法などを用いるようにしてもよい。
上述した実施の形態では、制御装置104は、スルー画を対象として被写体追尾を行う例について説明した。しかしながら、カメラ100が動画撮影機能を備えている場合には、制御装置104は、スルー画ではなく、撮影済みの動画のフレーム間で被写体追尾を行うようにしてもよい。
上述した実施の形態では、カメラ100が備える制御装置104が図2に示す処理を実行して被写体追尾を行う例について説明した。しかしながら、図2に示す処理を実行するためのプログラムをパソコンなどその他の端末に記録して、当該端末上で処理を実行することも可能である。この場合、カメラで撮影した動画像データを端末側に取り込んで、これを対象に処理を行うようにすれば、動画のフレーム間で被写体追尾を行うことが可能となる。また、本発明はカメラ付き携帯電話などに適用することも可能である。
日本国特許出願2012年第158795号(2012年7月17日出願)
101…操作部材
102…レンズ
103…撮像素子
104…制御装置
105…メモリカードスロット
106…モニタ
Claims (4)
- 第1テンプレート画像に基づいて、画像内の特定被写体を特定する第1特定部と、
前記第1テンプレート画像と異なる複数の第2テンプレート画像を生成する生成部と、
複数の前記第2テンプレート画像に基づいて、前記第1特定部が特定した特定被写体の位置と異なる画像内の複数の位置を特定する第2特定部と、
前記第2特定部が特定した複数の位置に基づいて、前記第1テンプレート画像を更新する更新部と、を備え、
前記生成部は、前記第1テンプレート画像を複数の領域に分割し、分割した複数の領域の中心位置のそれぞれを中心として複数の前記第2テンプレート画像を生成し、
前記生成部で生成される複数の前記第2テンプレート画像は、それぞれ前記第1テンプレート画像の異なる一部を含む画像である電子機器。 - 請求項1に記載の電子機器において、
前記更新部は、前記第1特定部の特定結果と、前記第2特定部の特定結果と、に基づいて、前記第1テンプレート画像を更新する電子機器。 - 請求項2に記載の電子機器において、
前記更新部は、画像内における複数の前記第2テンプレート画像の中心位置同士の距離に基づいて、前記第1テンプレート画像を更新する電子機器。 - 請求項3に記載の電子機器において、
前記更新部は、複数の前記第2テンプレート画像の中心位置同士の距離の変化が所定の範囲内である場合には、前記第1テンプレート画像を更新しない電子機器。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012158795 | 2012-07-17 | ||
JP2012158795 | 2012-07-17 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014525850A Division JP6323330B2 (ja) | 2012-07-17 | 2013-07-17 | 被写体追尾装置およびカメラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018136978A JP2018136978A (ja) | 2018-08-30 |
JP6763417B2 true JP6763417B2 (ja) | 2020-09-30 |
Family
ID=49948855
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014525850A Active JP6323330B2 (ja) | 2012-07-17 | 2013-07-17 | 被写体追尾装置およびカメラ |
JP2018076545A Active JP6763417B2 (ja) | 2012-07-17 | 2018-04-12 | 電子機器 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014525850A Active JP6323330B2 (ja) | 2012-07-17 | 2013-07-17 | 被写体追尾装置およびカメラ |
Country Status (4)
Country | Link |
---|---|
US (1) | US9563967B2 (ja) |
JP (2) | JP6323330B2 (ja) |
CN (2) | CN107610153B (ja) |
WO (1) | WO2014014031A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102014224557A1 (de) * | 2014-12-01 | 2016-06-02 | Osram Gmbh | Bildverarbeitung mittels Kreuzkorrelation |
US10017115B2 (en) * | 2015-11-11 | 2018-07-10 | Ford Global Technologies, Llc | Trailer monitoring system and method |
JP6700791B2 (ja) * | 2016-01-05 | 2020-05-27 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN106228194B (zh) * | 2016-08-05 | 2018-09-18 | 腾讯科技(深圳)有限公司 | 图像查找方法和装置 |
CN107240118B (zh) * | 2017-05-19 | 2020-10-09 | 成都信息工程大学 | 一种基于rgb颜色直方图的判别式跟踪方法 |
US10332272B2 (en) * | 2017-08-07 | 2019-06-25 | Caterpillar Inc. | Systems and methods for testing an automatic perception system |
US11457795B2 (en) * | 2017-11-06 | 2022-10-04 | Hoya Corporation | Processor for electronic endoscope and electronic endoscope system |
US11398072B1 (en) * | 2019-12-16 | 2022-07-26 | Siemens Healthcare Gmbh | Method of obtaining a set of values for a respective set of parameters for use in a physically based path tracing process and a method of rendering using a physically based path tracing process |
US11276199B2 (en) * | 2020-02-17 | 2022-03-15 | The Boeing Company | Image template based tracking |
KR20220028951A (ko) * | 2020-08-31 | 2022-03-08 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
JP2022050908A (ja) * | 2020-09-18 | 2022-03-31 | キヤノン株式会社 | 追尾装置、追尾方法、プログラム |
WO2023105598A1 (ja) * | 2021-12-07 | 2023-06-15 | 株式会社日立国際電気 | 画像処理装置、画像処理システム及び画像処理方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3768073B2 (ja) | 1999-06-15 | 2006-04-19 | 株式会社日立国際電気 | 物体追跡方法及び物体追跡装置 |
JP4214926B2 (ja) * | 2004-03-04 | 2009-01-28 | 株式会社ニコン | 電子スチルカメラ |
KR100624481B1 (ko) | 2004-11-17 | 2006-09-18 | 삼성전자주식회사 | 형판 기반 얼굴 검출 방법 |
WO2008114683A1 (ja) * | 2007-03-16 | 2008-09-25 | Nikon Corporation | 被写体追跡用コンピュータプログラム製品、被写体追跡装置、およびカメラ |
JP2009053815A (ja) * | 2007-08-24 | 2009-03-12 | Nikon Corp | 被写体追跡プログラム、および被写体追跡装置 |
CN100568262C (zh) * | 2007-12-29 | 2009-12-09 | 浙江工业大学 | 基于多摄像机信息融合的人脸识别检测装置 |
JP2010157792A (ja) * | 2008-12-26 | 2010-07-15 | Nikon Corp | 被写体追跡装置 |
JP2013055424A (ja) * | 2011-09-01 | 2013-03-21 | Sony Corp | 撮影装置、パターン検出装置、および電子機器 |
-
2013
- 2013-07-17 US US14/413,282 patent/US9563967B2/en active Active
- 2013-07-17 WO PCT/JP2013/069427 patent/WO2014014031A1/ja active Application Filing
- 2013-07-17 CN CN201710826974.9A patent/CN107610153B/zh active Active
- 2013-07-17 JP JP2014525850A patent/JP6323330B2/ja active Active
- 2013-07-17 CN CN201380048010.6A patent/CN104641398B/zh active Active
-
2018
- 2018-04-12 JP JP2018076545A patent/JP6763417B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US20150356743A1 (en) | 2015-12-10 |
JP2018136978A (ja) | 2018-08-30 |
JPWO2014014031A1 (ja) | 2016-07-07 |
WO2014014031A1 (ja) | 2014-01-23 |
JP6323330B2 (ja) | 2018-05-16 |
CN107610153B (zh) | 2020-10-30 |
US9563967B2 (en) | 2017-02-07 |
CN104641398B (zh) | 2017-10-13 |
CN104641398A (zh) | 2015-05-20 |
CN107610153A (zh) | 2018-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6763417B2 (ja) | 電子機器 | |
KR101036787B1 (ko) | 움직임 벡터 연산 방법과 이 방법을 이용한 손 떨림 보정장치, 촬상 장치, 및 동영상 생성 장치 | |
US8254630B2 (en) | Subject extracting method and device by eliminating a background region using binary masks | |
JP5397481B2 (ja) | 画像選別装置及び画像選別方法 | |
JP4798259B2 (ja) | 被写体追尾装置、およびカメラ | |
KR20200023651A (ko) | 미리보기 사진 블러링 방법 및 장치 및 저장 매체 | |
JP6141829B2 (ja) | 動画解析装置、動画解析方法、プログラム、及び集積回路 | |
WO2022160857A1 (zh) | 图像处理方法及装置、计算机可读存储介质和电子设备 | |
KR20180102639A (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체 | |
JP5691617B2 (ja) | 被写体特定装置、および被写体追尾装置 | |
JP5083080B2 (ja) | 画像マッチング装置、およびカメラ | |
KR20130098675A (ko) | 얼굴 검출 처리 회로 및 이를 포함하는 촬상 장치 | |
JP5994493B2 (ja) | 動画像前景切抜き装置、方法、およびプログラム | |
JP2013182478A (ja) | 被写体追尾装置、被写体追尾方法およびカメラ | |
JP5029647B2 (ja) | 被写体追尾装置、およびカメラ | |
JP2013182479A (ja) | 被写体追尾装置、被写体追尾方法およびカメラ | |
JP7025237B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
JP2014036429A (ja) | 被写体追尾装置、およびカメラ | |
JP6044123B2 (ja) | 被写体追尾装置および電子カメラ並びに被写体追尾プログラム | |
JP4770965B2 (ja) | 画像マッチング装置、およびカメラ | |
JP4966167B2 (ja) | 画像評価装置及びこの画像評価装置を有するカメラ | |
JP2010079414A (ja) | プログラム、カメラおよび画像の輪郭抽出方法 | |
JP6639120B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6525693B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2021190922A (ja) | 撮像装置及びその制御方法、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180413 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190528 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190719 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200312 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200811 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200824 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6763417 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |