JP6750931B1 - デジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラム - Google Patents
デジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラム Download PDFInfo
- Publication number
- JP6750931B1 JP6750931B1 JP2020532840A JP2020532840A JP6750931B1 JP 6750931 B1 JP6750931 B1 JP 6750931B1 JP 2020532840 A JP2020532840 A JP 2020532840A JP 2020532840 A JP2020532840 A JP 2020532840A JP 6750931 B1 JP6750931 B1 JP 6750931B1
- Authority
- JP
- Japan
- Prior art keywords
- person
- moving image
- security system
- block
- digital motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Alarm Systems (AREA)
Abstract
Description
本発明者は、この誤りを分析した結果、監視カメラのレンズに雨滴、雪等が付着したり、洗濯物等が風にはためいて、それが色々と形を変えるうちに人と紛らわしくなることがあり、誤り警報を出すことが判明した。
図9は、その具体例を示す図である。図9は、カメラの撮影画像の具体例であり、実際には人がいないにもかかわらず、雨滴、雪等のために中央に人らしい形が見える。これが誤り警報の原因であることが分かった。
本発明の目的は、人を検出するに際して全体として人らしい形が存在するか否かを判定するのではなく、撮影画像から正確に人の存在を検出することができるデジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラムを提供することにある。
を更に備えることで、人が人であることを特徴付ける人の各部位の相互の位置関係をも判定しているので、より正確に人を検出することができる。
さらに、前記人抽出手段は、動画像における動きがある部分から人の候補を抽出し、前記ブロック判定手段は、前記動画像における動きの有る画素数と動画像全体の画素数との割合を求めた上で、そのブロックの動きが人であることの確からしさを判定することで、人が人であることを特に特徴付ける人の各部位の動きを判定しているので、より正確に人を検出することができる。
(実施の形態)
図1は、本発明の実施の形態に係るデジタル・モーションフォーミュラ・セキュリティシステムの構成を示すブロック図である。
本デジタル・モーションフォーミュラ・セキュリティシステムは、住居、企業の事務所、工場、研究所、情報処理室及び金銭集計室等の高度の管理を要する事業所等に適用して好適である。
監視カメラ11は、セキュリティ区域内の画像を撮影する。
監視カメラ11の一部又は全部は、PTZ(パン・チルト・ズーム)機能を有するPTZカメラであり、監視装置100により遠隔操作される。監視カメラ11は、セキュリティ該当建物の警備対象の外壁周囲、例えば侵入者が出入可能な出入口、窓開口部、敷地境界外周部及び該当敷地エリアの各所に設置される。監視カメラ11が撮影した画像は、監視装置100に出力され、録画部160に記録される。
人感センサ20は、サーモカメラ又は赤外線カメラ等であり、セキュリティ区域内の感知対象物の温度を検出して、セキュリティ区域内の不審者を検出する。
Wi-Fi親機30は、Wi-Fiを用いて携帯端末装置50のWi-Fi子機51との間で情報をやり取りする。また、Wi-Fi親機30は、Wi-Fi測位による位置情報取得、すなわちWi-Fiアクセスポイントと所定の位置情報サービスを利用した位置情報を取得できる。
ビーコンは、Bluetooth Low Energyを利用した無線技術である。ビーコンは、発信側のビーコン機器であるビーコン親機40と、ビーコン親機40からの電波受信に対応した携帯端末装置50のアプリ(後記ビーコン子機52に対応する)の組み合わせによって構成される。ビーコンは、識別に必要な固有のID情報を発信し、携帯端末装置50の当該ID情報に紐付けられたアプリにしか反応しない。携帯端末装置50のアプリは、ビーコン親機40と同じ識別子を登録しておく。携帯端末装置50のアプリ(ビーコン子機52)は、ビーコン機能を搭載したアプリケーション実行によりバックグラウンドで待機し、ビーコン親機40のビーコンに近接したときに所定アクションを励起する。
携帯端末装置50は、家族などがそれぞれ携帯する。携帯端末装置50は、例えばスマートフォン50a、タブレット50b、又はノートパソコン50cなどである。携帯端末装置50は、このほか、携帯電話、PHS(Personal Handy-Phone System)、PDA(Personal Digital Assistants)、又は専用端末などである。本実施の形態では、携帯端末装置50は、家族などが様々な場所(すなわち現在位置)で使用可能であり、図示しない電話回線を介して監視装置100からのメール又は動画を含む映像等を受信可能である。
なお、スマートフォン50aは、ビーコン子機52を備えているものでもよい。又は、スマートフォン50aは、Wi-Fi子機51と、ビーコン子機52と、GPS53とのいずれか一つを備えるものでもよい。
Wi-Fi子機51は、業務施設に設置されたWi-Fi親機30の電波を受信及び個別識別する。監視装置100は、施設内に設置されたWi-Fi親機30の配置情報をセフティ関連情報として記憶している。Wi-Fi子機51がWi-Fi親機30に近接すると、携帯端末装置50を携帯する関係者のIDと位置を判定することができる。
ビーコン子機52は、ビーコン親機40からの電波受信に対応した携帯端末装置50のアプリである。ビーコン親機40は、ビーコン(識別に必要な固有のID情報)を発信し、携帯端末装置50のアプリ(ビーコン子機52)は、ビーコン親機40のビーコンに近接したときに所定アクションを励起する。
GPS53は、位置情報の電波をGPS衛星等から受信する。GPS53は、GPSアンテナを介して受信した情報より、現在位置情報を、緯度、経度及び高度の3つのパラメータとして算出して位置情報を取得する。取得した位置情報は、適時、監視装置100に送信される。
監視装置100は、関係者(例えば家族)の住居、事業所等に設置され、セキュリティ区域内を集中管理する。監視装置100は、一般的なサーバ計算機、又はパーソナルコンピュータ等であってよい。
画像処理部170は、監視カメラ11で撮影された画像データを処理し、セキュリティ区域内の画像から人の存在の有無を判定するために制御部110に送る。
通信部190は、基地局を介して携帯端末装置50とデータを送受信する。通信部190は、無線通信機能を有し、例えばUSB(Universal Serial Bus)を用いて制御基板に接続される。
図2は、本発明の第1の実施の形態に係るデジタル・モーションフォーミュラ・セキュリティシステムの監視装置100の制御部110のブロック図である。
図2に示すように、制御部110は、CPU(Central Processing Unit)等により構成され、監視装置100全体を制御するとともに、制御プログラムを実行して、デジタル・モーションフォーミュラ・セキュリティシステムとして機能させる。
制御部110は、人抽出部111(人抽出手段)と、分割部112(分割手段)と、ブロック判定部113(ブロック判定手段)と、位置関係判定部114(位置関係判定手段)と、を備える。
制御部110は、ブロック判定部113が、ブロックの動きが人らしいと判定したことを受けて、不審者が存在すると判定する。
制御部110は、人抽出部111が、画像をモノクロ2値画像に変換し、そのモノクロ2値画像から人の候補を抽出する。
制御部110は、位置関係判定部114が、各ブロック相互の位置関係が人らしいと判定したことを受けて、不審者が存在すると判定する。
制御部110は、位置関係判定部114が、胴体に対する頭の左右の位置が人らしいと判定したことを受けて、不審者が存在すると判定する。
位置関係判定部114は、AIアクセラレータ200を用いて、ブロック判定部113によって人であることが確からしいと判定された各ブロック相互の位置関係、例えば胴体に対する頭の左右の位置関係などが人であることの確からしさを判定する。
AIアクセラレータ200は、人を検出する専用プロセッサであり、CPU以外の計算リソースを用いる。AIアクセラレータ200は、例えば、GPU(Graphics Processing Unit)を強化したプロセッサよる画像処理、FPGA(Field-Programmable Gate Array)を用いた信号処理のアクセラレートである。また、AIアクセラレータ200は、専用ハード(例えば、GPU)上でAI(Artificial Intelligence:人工知能)の計算を実行する。
図3は、本発明の実施形態に係る携帯端末装置50を利用したデジタル・モーションフォーミュラ・セキュリティシステムを示す構成図である。
図3に示すように、デジタル・モーションフォーミュラ・セキュリティシステム1000は、ウェブサービスクラウド300上に、デジタル・モーションフォーミュラ・セキュリティサービスを提供するクラウドサーバ(商用サーバ)301、クラウドサーバ301に連携して能動的に情報を取得してユーザのスマートフォン50a(携帯端末装置;ID端末)に通知するPush通知サーバ302を有する。ウェブサービスクラウド300は、インターネット303に接続される。スマートフォン50aは、インターネット303を経由してウェブサービスクラウド300上のクラウドサーバ301にテキスト及び画像を送信することができる。また、スマートフォン50aは、インターネット303を経由してPush通知サーバ302からPush通知を受信する。さらに、クラウドサーバ301及びPush通知サーバ302は、LTE/3G網などの通信キャリア網(移動体通信網)(図示省略)を経由して、セキュリティアプリが搭載されたスマートフォン50aに接続する。
スマートフォン50aに来た通知をユーザがタップすると、セキュリティアプリが起動して不審者のズーム画面を表示し、「1F玄関にて不審者が検知されました」というテロップが流れる。同時にその内容が音声で読み上げられる。このように、スマートフォン50aの画面のテロップと音声とで不審者の通知が行われる。さらに、スマートフォン50aユーザの操作により、例えば緊急時には関係機関(警察・消防)に通知する。この場合、警備会社や関係企業本社にも自動的に通知される。また、緊急性がない場合や確認したい場合には、警備会社のみに通知する。
図4は、スマートフォン50aのセキュリティアプリ動作を示す図である。
図4左に示すように、スマートフォン50aの待受け画面等に不審者を検出したテロップが通知される。ユーザのタップにより、図4中に示すように、スマートフォン50aの表示はセキュリティアプリ動作表示に切り替わり、不審者のズーム画面を表示し、不審者の位置と状況「1F玄関に不審者」を表示する。また、このテロップを自動音声で読み上げる。さらに、ユーザのタップにより、図4右に示すように、スマートフォン50aの表示を時系列の4画面に表示する。
図5は、デジタル・モーションフォーミュラ・セキュリティシステムの監視装置100の制御部110が動きの有無を判定する処理を説明する図である。図6は、その処理を示すフローチャートである。本フローは、監視装置100の制御部110(図2参照)により実行される。
ステップS2で、制御部110は、AIアクセラレータ200で人抽出を行い、画像全体から人抽出された場所の矩形を切り出す。
ステップS3で、人抽出された矩形から上肢と下肢などの各ブロック(部位)を囲む矩形の画像を切り出す。
ステップS4で、上記ブロックを囲む矩形の画像のサイズをコンピュータの処理能力に合わせて300×300ドット等に変換して圧縮する。普通は長方形である矩形を1辺の長さが300ドットの大きさの正方形に変換することになる。これによって処理に要する時間を少なく、かつ、一定にする。
ステップS5で、色情報を削除して白黒濃淡の画像に変更する(モノクロ画像変換、各ドットは0〜255の値とする。図5「(2)現行世代のもの」では例えば120)。これによってドット当たりの情報量を減らす。
ステップS7で、ドット(1,1)の差分をとり、負の数なら正に直す。ドット(1,2)の差分をとり、負の数なら正に直す。・・・ドット(n,n)の差分をとり、負の数なら正に直す。
ステップS8で、各ドットは、0〜255の値となっている。
ステップS9で、それら0〜255の値が、0〜3までの値ならば0とし、4〜255までの値ならば255とする(モノクロ2値画像変換、図5「(3)動きの有無を判定した結果」では例えば120−3=127ならば255となる)。
ステップS10で、0と255の値のうち、値が255となったドットの数をMとする。
M ÷ 90,000 × 100 (1)
例えばMが14,000だとすると評価値はM÷90,000×100=14,000÷90,000×100≒15である。この数値を図5に示すように表示部140に表示してもよい。
ステップS12で、上で求めた割合を誤抽出防止パラメータ設定値の10%等と比較する。
ステップS13で、上で求めた割合は10%等以上かを判断する。
ステップS13で、割合が10%以上であり、Yesの場合は、ステップS14で、人抽出は正常と判定する。
ステップS13で、割合が10%以上ではなく、Noの場合は、ステップS15で、人抽出は誤抽出であると判定する。
これによって、動きのないブロック(部位)は、人のブロックではないと判定し、動きのあるブロックは、人のブロックであると判定する。
次に、デジタル・モーションフォーミュラ・セキュリティシステムの体の各部位相互の位置関係を判定する処理について説明する。
図7は、デジタル・モーションフォーミュラ・セキュリティシステムの監視装置100の制御部110が体の各部位相互の位置関係が人であることの確からしさを判定する処理を説明する図である。図8は、その処理を示すフローチャートである。本フローは、監視装置100の制御部110(図2参照)により実行される。
ステップS22で、制御部110は、AIアクセラレータ200で人抽出を行い、画像の人抽出された場所を抽出された分だけ矩形に切り出す。これにより体全体のブロックを得る。
ステップS23で、AIアクセラレータ200により切り出した画像の中で顔器官抽出により顔抽出を行う。これにより顔のブロックを得る。
ステップS24で、AIアクセラレータ200により切り出した画像の中で骨格抽出により上腕・前腕、胴体、下肢抽出を行う(AIによる骨格抽出)。これにより顔以外のブロックを得る。
ステップS25で、顔、腕等の部位が抽出されたかを判断する。
ステップS25で、部位が抽出されず、Noの場合は、ステップS41に進む。
ステップS25で、部位が抽出され、Yesの場合は、ステップS26に進む。
ステップS27で、左右の顔の標準位置を顔の幅が体の幅の1/3で体の中心にあるとして設定する。
ステップS28で、上下の顔の標準位置を体高に対して上限を1/9、下限を2/9として設定する。
ステップS29で、顔の矩形座標値を顔の標準の位置と比較し、標準位置からの隔たりを評価する。具体的には例えば、図7に示すように、顔の標準位置からのX軸方向の隔たりを評価する。さらに、顔の標準位置からのY軸方向の隔たりを評価する。
ステップS30で、左限界X0のX軸方向の隔たりを0〜100%で評価する。具体的には例えば、図7に示すように、左限界値X0のX軸方向の隔たり:55%。
ステップS32で、上限界Y0のY軸方向の隔たりを0〜100%で評価する。具体的には例えば、図7に示すように、上限界値Y0のY軸方向の隔たり:85%。
ステップS33で、下限界Y1のY軸方向の隔たりを0〜100%で評価する。具体的には例えば、図7に示すように、下限界値Y1のY軸方向の隔たり:99%。
ステップS34で、上で得た4個の評価値を合計して4で割ったものを評価値とする。具体的には例えば、図7に示すように、顔評価値:(55+97+85+99)÷4=84%。この数値を図7に示すように表示部140に表示してもよい。
ステップS35で、腕の上腕・前腕の位置・角度を取得し、人間の腕としての確からしさを評価する。
ステップS37で、左腕の確からしさを0〜100%で評価する。具体的には例えば、図7に示すように、左腕の確からしさ:99%。
ステップS38で、上で得た2個の評価値を合計して2で割ったものを評価値とする。具体的には例えば、図7に示すように、腕評価値:(87+99)÷2=93%。
ステップS39で、評価値を誤抽出防止パラメータ設定値の50%等と比較する。
ステップS40で、評価値が50%等以上であり、Yesの場合は、ステップS41で、人抽出は正常と判定する。
ステップS40で、評価値が50%等以上ではなく、Noの場合は、ステップS42で、人抽出は誤抽出であると判定する。
図7の例では、84%>50%、かつ、93%>50%となるので、人抽出は正常である。
また、AIアクセラレータ200であることで、従来の監視カメラによる人体検出に比べて極めて高い精度での侵入者の検出を行うことができる。
20 人感センサ
30 Wi-Fi親機
40 ビーコン親機
50 携帯端末装置(ID端末)
50a スマートフォン(携帯端末装置;ID端末)
51 Wi-Fi子機
52 ビーコン子機
53 GPS
100 監視装置
110 制御部
111 人抽出部(人抽出手段)
112 分割部(分割手段)、
113 ブロック判定部(ブロック判定手段)
114 位置関係判定部(位置関係判定手段)
120 入力部
120a 操作盤
130 記憶部
140 表示部
150 出力部
160 録画部
170 画像処理部
180 インタフェース(I/F)部
190 通信部
200 AIアクセラレータ
1000 デジタル・モーションフォーミュラ・セキュリティシステム
Claims (6)
- セキュリティ区域を撮影するカメラによって撮影された動画像における動きがある部分から人の候補を抽出する人抽出手段と、
該人抽出手段によって抽出された動画像における人の候補を上肢又は下肢を含む複数の、人の特定の部位であるブロック(以下、単に「ブロック」という)に分割する分割手段と、
前記動画像における動きの有る画素数と動画像全体の画素数との割合を求めた上で、該分割手段によって分割されたそれぞれのブロックの動きが人であることの確からしさを判定するブロック判定手段と
を備えることを特徴とするデジタル・モーションフォーミュラ・セキュリティシステム。 - 前記人抽出手段は、カメラによって撮影された動画像をモノクロ2値動画像に変換し、そのモノクロ2値動画像から人の候補を抽出することを特徴とする請求項1記載のデジタル・モーションフォーミュラ・セキュリティシステム。
- 前記ブロック判定手段によって人であることが確からしいと判定された各ブロック相互の位置関係が人であることの確からしさを判定する位置関係判定手段
を更に備えることを特徴とする請求項1又は2記載のデジタル・モーションフォーミュラ・セキュリティシステム。 - 前記位置関係判定手段は、胴体に対する頭の左右の位置が人であることの確からしさを判定するものであることを特徴とする請求項3記載のデジタル・モーションフォーミュラ・セキュリティシステム。
- セキュリティ区域を撮影するカメラによって撮影された動画像における動きがある部分から人の候補を抽出する人抽出ステップと、
該人抽出ステップによって抽出された動画像における人の候補を上肢又は下肢を含む複数のブロックに分割する分割ステップと、
前記動画像における動きの有る画素数と動画像全体の画素数との割合を求めた上で、該分割ステップによって分割されたそれぞれのブロックの動きが人であることの確からしさを判定するブロック判定ステップと
を備えることを特徴とするデジタル・モーションフォーミュラ・セキュリティ方法。 - コンピュータを、
セキュリティ区域を撮影するカメラによって撮影された動画像における動きがある部分から人の候補を抽出する人抽出手段と、該人抽出手段によって抽出された動画像における人の候補を上肢又は下肢を含む複数のブロックに分割する分割手段と、前記動画像における動きの有る画素数と動画像全体の画素数との割合を求めた上で、該分割手段によって分割されたそれぞれのブロックの動きが人であることの確からしさを判定するブロック判定手段とを備えることを特徴とするデジタル・モーションフォーミュラ・セキュリティシステム
として機能させるためのプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/005070 WO2021161365A1 (ja) | 2020-02-10 | 2020-02-10 | デジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6750931B1 true JP6750931B1 (ja) | 2020-09-02 |
JPWO2021161365A1 JPWO2021161365A1 (ja) | 2021-08-19 |
Family
ID=72240887
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020532840A Active JP6750931B1 (ja) | 2020-02-10 | 2020-02-10 | デジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6750931B1 (ja) |
WO (1) | WO2021161365A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004206656A (ja) * | 2002-11-08 | 2004-07-22 | Minolta Co Ltd | 検出装置および検出方法 |
JP2005165923A (ja) * | 2003-12-05 | 2005-06-23 | Konica Minolta Holdings Inc | 検出装置および検出方法 |
JP2005351814A (ja) * | 2004-06-11 | 2005-12-22 | Konica Minolta Holdings Inc | 検出装置および検出方法 |
JP2019005466A (ja) * | 2017-06-28 | 2019-01-17 | Necソリューションイノベータ株式会社 | 身体特性分析装置、身体特性分析方法、及びプログラム |
-
2020
- 2020-02-10 WO PCT/JP2020/005070 patent/WO2021161365A1/ja active Application Filing
- 2020-02-10 JP JP2020532840A patent/JP6750931B1/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004206656A (ja) * | 2002-11-08 | 2004-07-22 | Minolta Co Ltd | 検出装置および検出方法 |
JP2005165923A (ja) * | 2003-12-05 | 2005-06-23 | Konica Minolta Holdings Inc | 検出装置および検出方法 |
JP2005351814A (ja) * | 2004-06-11 | 2005-12-22 | Konica Minolta Holdings Inc | 検出装置および検出方法 |
JP2019005466A (ja) * | 2017-06-28 | 2019-01-17 | Necソリューションイノベータ株式会社 | 身体特性分析装置、身体特性分析方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021161365A1 (ja) | 2021-08-19 |
WO2021161365A1 (ja) | 2021-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6525229B1 (ja) | デジタルサーチ・セキュリティシステム、方法及びプログラム | |
US11361639B2 (en) | Gunshot detection system with location tracking | |
US11735018B2 (en) | Security system with face recognition | |
AU2018391963B2 (en) | Method, device, and system for adaptive training of machine learning models via detected in-field contextual sensor events and associated located and retrieved digital audio and/or video imaging | |
EP3118826B1 (en) | Home, office security, surveillance system using micro mobile drones and ip cameras | |
JP6529062B1 (ja) | デジタルアキュレート・セキュリティシステム、方法及びプログラム | |
US11538276B2 (en) | Communication system, distributed processing system, distributed processing method, and recording medium | |
US10922547B1 (en) | Leveraging audio/video recording and communication devices during an emergency situation | |
JP2007122528A (ja) | ノード管理システム及びノード管理プログラム | |
US20180167585A1 (en) | Networked Camera | |
KR20190024254A (ko) | 도어벨 장치 | |
JPWO2018116485A1 (ja) | 映像収集システム、映像収集サーバ、映像収集方法及びプログラム | |
KR101515434B1 (ko) | 재난 신고 시스템 | |
CN112005282A (zh) | 混合现实设备的警报 | |
WO2020213058A1 (ja) | デジタルスマート・ディフェンスセキュリティシステム、方法及びプログラム | |
US20220277162A1 (en) | Optical person recognition techniques for social distancing | |
JP6750931B1 (ja) | デジタル・モーションフォーミュラ・セキュリティシステム、方法及びプログラム | |
JP6754451B2 (ja) | 監視システム、監視方法及びプログラム | |
JP2008148138A (ja) | 監視システム | |
JP7197256B2 (ja) | 通知システム、通知方法およびプログラム | |
WO2021186751A1 (ja) | デジタル・オートファイル・セキュリティシステム、方法及びプログラム | |
KR101336825B1 (ko) | 학교폭력 및 범죄 예방을 위한 감시시스템 | |
KR102545534B1 (ko) | 도어벨, 이를 구비한 보안 시스템 및 그 동작 방법 | |
JP7244135B2 (ja) | デジタルセフティ・レスポンスセキュリティシステム、方法及びプログラム | |
KR102560847B1 (ko) | 영상기반 얼굴 인식, 건강 체크 및 위치 추적 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200617 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200617 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200617 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200707 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200715 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200812 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200812 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6750931 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |