JP6855651B2 - 水底観測システム及び水底観測画像処理プログラム - Google Patents

水底観測システム及び水底観測画像処理プログラム Download PDF

Info

Publication number
JP6855651B2
JP6855651B2 JP2017104797A JP2017104797A JP6855651B2 JP 6855651 B2 JP6855651 B2 JP 6855651B2 JP 2017104797 A JP2017104797 A JP 2017104797A JP 2017104797 A JP2017104797 A JP 2017104797A JP 6855651 B2 JP6855651 B2 JP 6855651B2
Authority
JP
Japan
Prior art keywords
image
water
blur
position information
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017104797A
Other languages
English (en)
Other versions
JP2018200221A (ja
Inventor
勝紀 水野
勝紀 水野
昭 浅田
昭 浅田
杉本 憲一
憲一 杉本
年弘 小川
年弘 小川
義徳 松本
義徳 松本
ヒメネス レア
ヒメネス レア
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Tokyo NUC
Original Assignee
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Tokyo NUC filed Critical University of Tokyo NUC
Priority to JP2017104797A priority Critical patent/JP6855651B2/ja
Publication of JP2018200221A publication Critical patent/JP2018200221A/ja
Application granted granted Critical
Publication of JP6855651B2 publication Critical patent/JP6855651B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

本発明は、水底観測システム及び水底観測画像処理プログラムに関し、特に、比較的浅い水域の海底や湖沼等の水底を観測する水底観測システム及び水底観測画像処理プログラムに関する。
湖沼や沿岸部の浅水域の水底を観測することにより、例えば、珊瑚礁の状態やプラスチックゴミ等の有無など環境の変化を認知することができる。
水底を観測する方法としては、水面を走行移動可能に支持した音響測深機による観測方法(例えば、特許文献1参照)や、水中移動可能に曳航支持したビデオカメラによる観測方法(例えば、特許文献2参照)、水底画像情報を取得して画像処理する観測方法(例えば、特許文献3参照)等がある。
特開2003−4845号公報 特許第4173027号公報 特許第5989719号公報
ところで、水底の観測を行う場合、その観測対象となる水底は様々な場所に存在し、当然のことながら、離島や無人島の周辺の海域や山中の湖底なども含むこととなる。したがって、水底を観測するための観測システムは、運搬や組み立て等を容易に行うことができるものであることが望ましいことは明らかである。
そこで、本発明は、比較的簡易な構成で水底の観測を行うことのできる水底観測システム及び水底観測画像処理プログラムを提供することを目的とする。
上述した目的を達成するため、請求項1の発明は、水上に浮遊する浮体部と支持部を介して接続され、該支持部により水中の所定の深度に固定されるとともに、前記浮体部の移動に伴って水中を移動して動画像を撮影する複数の撮影手段と、動力を有し、前記浮体部を曳航する曳航部と、全球測位衛星システムの衛星から受信した信号に基づいて前記複数の撮影手段の位置情報を記録する位置記録手段と、前記複数の撮影手段が撮影した動画像と前記位置記録手段が記録した位置情報とに基づいて立体の地形図を生成する画像処理手段とを具備し、前記支持部は、前記複数の撮影手段を水中に垂下して固定するものであって、かつ垂直方向に位置する部分の長さが可変であり、前記画像処理手段は、前記複数の撮影手段が撮影した動画像を時間軸に沿って連続する複数の静止画像に変換する静止画変換手段と、前記静止画変換手段が変換した静止画像のブレの度合いを定量化する画像ブレ定量化手段と、前記画像ブレ定量化手段が定量化したブレの度合いに基づいて前記静止画変換手段が変換した静止画像からブレの度合いが所定の値以下の低ブレ画像を選択する低ブレ画像選択手段と、前記低ブレ画像選択手段が選択した複数枚の低ブレ画像と前記位置記録手段が記録した位置情報と、に対してSfMと称するアルゴリズムを用いて処理することにより立体の地形図を生成する地形図生成手段とを具備することを特徴とする。
また、請求項2の発明は、請求項1の発明において、前記撮影手段は、各々全球測位衛星システムの衛星から受信した信号に基づいて位置情報を特定する位置情報特定手段を具備し、該位置情報特定手段で動画像の撮影開始時の位置情報を特定し、該特定した位置情報を該動画像に付加し、前記画像処理手段は、前記動画像に付加された位置情報に基づいて立体の地形図を生成することを特徴とする。
また、請求項3の発明は、請求項1の発明において、前記撮影手段に撮影の開始を指示する同期信号を生成する同期信号生成手段をさらに具備することを特徴とする。
また、請求項5の発明は、水上に浮遊し、動力を有する曳航部に曳航される浮体部と、複数の撮影手段を水中に垂下して固定し、かつ垂直方向に位置する部分の長さが可変である支持部を介して接続され、該支持部により水中の所定の深度に固定される複数の撮影手段により撮影された複数の動画像の各々を時間軸に沿って連続する複数の静止画像に変換する静止画変換処理と、前記静止画変換処理で変換した静止画像のブレの度合いを定量化する画像ブレ定量化処理と、前記画像ブレ定量化処理で定量化したブレの度合いに基づいて前記静止画変換処理で変換した静止画像からブレの度合いが所定の値以下の低ブレ画像を選択する低ブレ画像選択処理と、前記低ブレ画像選択処理で選択した複数枚の低ブレ画像と、全球測位衛星システムの衛星から受信した信号に基づいて生成された前記複数の撮影手段の位置情報とに対し、SfMと称するアルゴリズムを用いて処理することにより立体の地形図を生成する地形図生成処理とをコンピュータに実行させることを特徴とする。
本発明によれば、比較的簡易な構成で水底の観測を行うことが可能となるため、機材の搬入等が困難な地域においても、水底の観測を行うことができる。
水底観測システムの概略構成を示した図である。 画像データの生成方法を説明するための図である。 画像処理部8による画像処理を説明するための図である。 静止画像の画像ブレの度合いの定量化の例を説明するための図である。 実施例2における画像データの生成方法を説明するための図である。
以下、本発明に係る水底観測システム及び水底観測画像処理プログラムの一実施の形態について、添付図面を参照して詳細に説明する。
図1は、水底観測システムの概略構成を示した図である。同図に示すように、水底観測システム1は、浮体部2と支持部3、整流部4、撮影部5、曳航部6を含んで構成される。また、図1では省略しているが、水底観測システムは、GPS受信部と画像処理部も含んで構成される。
浮体部2は、水上に浮かぶもので支持部3を所定の位置に固定するとともに、曳航部6により曳航されて移動するものである。この浮体部2は、専用のものを用いることができるが、サーフボード等の汎用のものを用いることができ、例えば、観測場所の状態に合わせてサーフボードの形状やフィンの種類等を選択することで、観測時の撮影部5の動揺を低減することが可能となる。
支持部3は、浮体部2に接続され、観測時に撮影部5を水中に垂下して固定するもので、例えば、金属や樹脂、木材等で構成されるものである。また、支持部3は、浮体部2に接続された際に垂直方向に位置する部分の長さを可変にするか、異なる長さのものに交換することで、観測時に撮影部5が位置する水深を任意に変更することが可能である。
整流部4は、布状の繊維等であり、観測時に水流を整流するものであり、観測時の撮影部5の動揺を低減する。
撮影部5は、観測時に水底の動画を撮影して画像データを出力するものであり、例えば、デジタルカメラ等が用いられる。また、撮影部5は、全球測位衛星システム(GNSS:Global Navigation Satellite System)、例えば、GPS(Global Positioning System)衛星からの信号を受信し、撮影場所の位置情報を動画に付加することができるものである。なお、撮影部5は、複数であれば数に制限は無く、複数の撮影部5が支持部3に固定されることで、複数の撮影部5は、観測時に同一方向に略同一深度で移動することとなる。
曳航部6は、支持部3が接続された浮体部2を曳航するもので、動力を有するボート等を利用することができる。
また、図示しないGPS受信部は、GPS受信装置を含むパーソナルコンピュータやタブレット端末等の汎用のコンピュータを用いて構成される。
また、図示しない画像処理部は、パーソナルコンピュータ等の汎用のコンピュータを用いて構成されるもので、撮影部5が出力する画像データの処理を行う。画像処理部と撮影部5は、無線または有線による通信を行って画像データの授受を行うようにしてもよく、撮影部5が生成した画像データを記憶媒体等を介して画像処理部に受け渡すようにしてもよい。
次に、撮影部5の詳細と撮影部5による画像データの生成について説明する。図2は、画像データの生成方法を説明するための図である。
同図に示すように、撮影部5は、GPS受信部51を有しており、動画像を撮影するとともに、GPS信号10に基づいてGPS受信部51が撮影場所を特定し、特定した場所の位置情報を時刻情報とともに撮影した動画像と関連付けてデータ化して、画像データ11(図2においては、撮影部5の数が6であるものとし、同図中では画像データ11−1と画像データ11−6を示し、他を省略している)として出力または記録媒体へ記録する。なお、GPS信号10に基づく位置情報の特定は、動画の撮影開始時に行う。
また、撮影部5による撮影時には、別途、GPS受信部7がGPS信号10に基づいて撮影場所を特定し、特定した場所の位置情報を時刻情報とともに記録し、外部標定データ12を生成する。なお、GPS受信部7は、支持部3に固定してGPS信号を受信するようにしてもよく、曳航部6に載置してGPS信号を受信するようにしてもよい。
このようにして生成された画像データ11−1等と外部標定データ12は、画像処理部8に入力され、画像処理される。
次に、画像処理部8による画像処理について説明する。図3は、画像処理部8による画像処理を説明するための図である。
同図に示すように、画像処理部8は、連番静止画変換部81と、画像ブレ定量化部82、低ブレ画像選択部83、3Dオブジェクト生成部84を有する。このうち、連番静止画変換部81と、画像ブレ定量化部82、低ブレ画像選択部83は、画像処理部8に入力される画像データ11の数、つまり、撮影部5と同数となる複数を有する。なお、連番静止画変換部81と、画像ブレ定量化部82、低ブレ画像選択部83を複数有するのは、複数の画像データ11を並列処理する場合の例であり、複数の画像データ11を順次処理する場合には、連番静止画変換部81と、画像ブレ定量化部82、低ブレ画像選択部83は、複数である必要はない。
連番静止画変換部81は、画像データ11−1等の動画像を連続する静止画像に変換する。連続とは、一定の時間間隔で、その時刻順に連続するという意味である。また、変換した最初の静止画像には、変換元の動画像に関連付けられていた位置情報を関連付け、以後変換した各静止画像には、動画像の開始時刻からの経過時刻を関連付ける。
画像ブレ定量化部82は、連番静止画変換部81が変換した静止画像の画像ブレの度合いを定量化する。静止画像の画像ブレは、撮影部5の動揺等により生じるものである。静止画像の画像ブレの度合いの定量化は、例えば、静止画像を空間領域から空間周波数領域へ変換し、この変換により得られた空間スペクトルに基づいて行う。
静止画像を空間領域から空間周波数領域へ変換した場合、例えば、図4(a)に示すようなブレのある画像を空間領域から空間周波数領域へ変換した場合には、その変換で得られる空間スペクトルは、図4(b)に示すように、楕円状の模様として表わされるものとなる。
一方、図4(c)に示すようなブレの無い画像を空間領域から空間周波数領域へ変換した場合には、その変換で得られる空間スペクトルは、図4(d)に示すように、正円に近い円状の模様として表わされるものとなる。
したがって、静止画像を空間領域から空間周波数領域へ変換し、変換により得られた空間スペクトルにより表わされる円状の模様の離心率を求めることで静止画像の画像ブレの度合いを定量化することができる。
なお、静止画像の画像ブレの度合いの定量化は、別の方法によって行うようにしてもよい。
低ブレ画像選択部83は、画像ブレ定量化部82により定量化された画像ブレの度合いに基づいて、画像ブレが所定の度合い以下の静止画像を選択する。
3Dオブジェクト生成部84は、低ブレ画像選択部83が選択した画像ブレが所定の度合い以下の静止画像に基づいて3Dオブジェクト、つまり、立体の地形図を生成する。3Dオブジェクトの生成は、例えば、SFM(structure from motion)と称するアルゴリズムを用いる。この3Dオブジェクトの生成にさいしては、静止画像に関連付けられている位置情報または経過時刻を用いるとともに、外部標定データ12を用いる。
なお、画像ブレ定量化部82による静止画像の画像ブレの度合いの定量化の方法や3Dオブジェクト生成部84による3Dオブジェクトの生成の方法は一例であり、他の方法により行うことも可能である。
実施例1では、撮影部5がGPS受信部51を有する場合の例を説明したが、実施例2では、撮影部がGPS受信部を有さない場合の例を説明する。図5は、実施例2における画像データの生成方法を説明するための図である。
同図に示すように、撮影部5’は、同期信号発生部9が発生する同期信号を受信し、この同期信号の受信に応じて撮影を開始する。これにより、各撮影部5’が撮影して生成した画像データ13(図5においては、撮影部5’の数が6であるものとし、同図中では画像データ13−1と画像データ13−2、画像データ13−6を示し、他を省略している)は、全て同時刻に撮影が開始されたものとなる。
同期信号発生部9が発生する同期信号は、有線や無線のいずれを用いて撮影部5’に入力するようにしてもよく、例えば、Wi−FiやBluetooth(登録商標)規格に準じた無線を用いることで、撮影部5’の構成を簡易にすることができる。
また、同期信号発生部9は、GPS受信部91を有し、GPS受信部91がGPS信号10に基づいて撮影場所を特定し、特定した場所の位置情報を時刻情報とともに記録し、外部標定データ13を生成する。記録する時刻情報には、同期信号を発生した時刻も含む。なお、同期信号発生部9は、支持部3に固定してGPS信号を受信するようにしてもよく、曳航部6に載置してGPS信号を受信するようにしてもよい。なお、同期信号発生部9は、GPS受信装置を含むパーソナルコンピュータやタブレット端末等の汎用のコンピュータを用いて構成される。
このようにして生成された画像データ13−1等と外部標定データ12は、画像処理部8に入力され、画像処理される。
画像処理部8による画像処理は、実施例1の場合とほぼ同様であるが、連番静止画変換部81は、画像データ13−1等の動画像を連続する静止画像に変換する際に、変換した各静止画像には、動画像の開始時刻からの経過時刻を関連付け、3Dオブジェクト生成部84は、静止画像に関連付けられている経過時刻を用いるとともに、外部標定データ13を用いて処理を行う。
また、撮影部がGPS受信部を有さない場合の例としては、同期信号発生部9の使用に変えて、使用する全ての撮影部5’の録画開始スイッチを機械的に同時に押すように操作するようにしても良い。このような操作を行うことでも、同様の動画像を得ることができる。なお、同期信号発生部9を用いない場合には、実施例1で説明したGPS受信部7を用いることとなる。
1 水底観測システム
2 浮体部
3 支持部
4 整流部
5 撮影部
5’ 撮影部
6 曳航部
7 GPS受信部
8 画像処理部
9 同期信号発生部
10 GPS信号
11−1〜11−6 画像データ
12 外部標定データ
13−1〜13−6 画像データ
51 GPS受信部
81 連番静止画変換部
82 画像ブレ定量化部
83 低ブレ画像選択部
84 3Dオブジェクト生成部
91 GPS受信部

Claims (5)

  1. 水上に浮遊する浮体部と支持部を介して接続され、該支持部により水中の所定の深度に固定されるとともに、前記浮体部の移動に伴って水中を移動して動画像を撮影する複数の撮影手段と、
    動力を有し、前記浮体部を曳航する曳航部と、
    全球測位衛星システムの衛星から受信した信号に基づいて前記複数の撮影手段の位置情報を記録する位置記録手段と、
    前記複数の撮影手段が撮影した動画像と前記位置記録手段が記録した位置情報とに基づいて立体の地形図を生成する画像処理手段と
    を具備し、
    前記支持部は、前記複数の撮影手段を水中に垂下して固定するものであって、かつ垂直方向に位置する部分の長さが可変であり、
    前記画像処理手段は、
    前記複数の撮影手段が撮影した動画像を時間軸に沿って連続する複数の静止画像に変換する静止画変換手段と、
    前記静止画変換手段が変換した静止画像のブレの度合いを定量化する画像ブレ定量化手段と、
    前記画像ブレ定量化手段が定量化したブレの度合いに基づいて前記静止画変換手段が変換した静止画像からブレの度合いが所定の値以下の低ブレ画像を選択する低ブレ画像選択手段と、
    前記低ブレ画像選択手段が選択した複数枚の低ブレ画像と前記位置記録手段が記録した位置情報と、に対してSfMと称するアルゴリズムを用いて処理することにより立体の地形図を生成する地形図生成手段と
    を具備することを特徴とする水底観測システム。
  2. 前記支持部は、前記複数の撮影手段が水中で同一方向に同一深度で移動できるように垂下して固定されるものである請求項1に記載の水底観測システム。
  3. 前記撮影手段は、各々全球測位衛星システムの衛星から受信した信号に基づいて位置情
    報を特定する位置情報特定手段を具備し、該位置情報特定手段で動画像の撮影開始時の位
    置情報を特定し、該特定した位置情報を該動画像に付加し、
    前記画像処理手段は、前記動画像に付加された位置情報に基づいて立体の地形図を生成
    する
    ことを特徴とする請求項1又は2に記載の水底観測システム。
  4. 前記複数の撮影手段に撮影の開始を指示する同期信号を生成する同期信号生成手段をさらに具
    備することを特徴とする請求項1〜3のいずれか一項に記載の水底観測システム。
  5. 水上に浮遊し、動力を有する曳航部に曳航される浮体部と、複数の撮影手段を水中に垂下して固定し、かつ垂直方向に位置する部分の長さが可変である支持部を介して接続され、該支持部により水中の所定の深度に固定される複数の撮影手段により撮影された複数の動画像の各々を時間軸に沿って連続する複数の静止画像に変換する静止画変換処理と、
    前記静止画変換処理で変換した静止画像のブレの度合いを定量化する画像ブレ定量化処理と、
    前記画像ブレ定量化処理で定量化したブレの度合いに基づいて前記静止画変換処理で変換した静止画像からブレの度合いが所定の値以下の低ブレ画像を選択する低ブレ画像選択処理と、
    前記低ブレ画像選択処理で選択した複数枚の低ブレ画像と、全球測位衛星システムの衛星から受信した信号に基づいて生成された前記複数の撮影手段の位置情報と、に対し、SfMと称するアルゴリズムを用いて処理することにより立体の地形図を生成する地形図生成処理と
    をコンピュータに実行させることを特徴とする水底観測画像処理プログラム。
JP2017104797A 2017-05-26 2017-05-26 水底観測システム及び水底観測画像処理プログラム Active JP6855651B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017104797A JP6855651B2 (ja) 2017-05-26 2017-05-26 水底観測システム及び水底観測画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017104797A JP6855651B2 (ja) 2017-05-26 2017-05-26 水底観測システム及び水底観測画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2018200221A JP2018200221A (ja) 2018-12-20
JP6855651B2 true JP6855651B2 (ja) 2021-04-07

Family

ID=64667116

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017104797A Active JP6855651B2 (ja) 2017-05-26 2017-05-26 水底観測システム及び水底観測画像処理プログラム

Country Status (1)

Country Link
JP (1) JP6855651B2 (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS48103213A (ja) * 1972-04-12 1973-12-25
JPH071667U (ja) * 1993-06-15 1995-01-10 米田工業株式会社 携帯用テレビモニター装置
JP5100360B2 (ja) * 2007-12-21 2012-12-19 株式会社トプコン 画像処理装置
JP2010035177A (ja) * 2009-08-28 2010-02-12 Casio Comput Co Ltd 画像撮影装置及び画像処理システム
JP5989719B2 (ja) * 2013-07-26 2016-09-07 国立研究開発法人国立環境研究所 浅水域観測システム
JP6251142B2 (ja) * 2014-09-05 2017-12-20 公益財団法人鉄道総合技術研究所 測定対象物の非接触検知方法及びその装置
JP6940843B2 (ja) * 2014-11-18 2021-09-29 朝日航洋株式会社 水底観測システム
JP5904567B1 (ja) * 2015-03-09 2016-04-13 株式会社 ホーペック 船上からの採貝・採藻作業システム
JP6308505B2 (ja) * 2016-11-15 2018-04-11 株式会社ユピテル ドライブレコーダ本体及び機器

Also Published As

Publication number Publication date
JP2018200221A (ja) 2018-12-20

Similar Documents

Publication Publication Date Title
CN109741257B (zh) 全景图全自动拍摄、拼接***及方法
JP5989719B2 (ja) 浅水域観測システム
CN104980651A (zh) 图像处理设备及控制方法
WO2017168949A1 (ja) 情報処理装置、撮像装置、画像再生装置、および方法とプログラム
CN111108742A (zh) 信息处理装置、信息处理方法、程序以及可互换透镜
JP2014222825A (ja) 映像処理装置および映像処理方法
WO2020049634A1 (ja) 教師データ生成装置、教師データ生成方法、および、教師データ生成システム
JP2006279135A (ja) 星空撮影装置及び星空撮影方法並びにプログラム
JP2016103806A (ja) 撮像装置、画像処理装置、撮像システム、画像処理方法およびプログラム
JP6855651B2 (ja) 水底観測システム及び水底観測画像処理プログラム
JP2014191054A (ja) 焦点検出装置、焦点検出方法およびプログラム、並びに撮像装置
JP6016516B2 (ja) 画像処理装置およびその制御方法、画像処理プログラム、並びに撮像装置
WO2022221024A1 (en) Systems and methods for generating depth information from low-resolution images
JP6532370B2 (ja) 撮像システム、構図設定装置、及び構図設定プログラム
JP2015233270A (ja) 撮像装置およびその制御方法
KR101743729B1 (ko) 3d 이미지 스캐닝 시스템 및 이의 제어 방법
JP2015216604A (ja) 画像処理装置及びその方法、並びにプログラム
JP2005063129A (ja) 時系列画像からのテクスチャ画像獲得方法,テクスチャ画像獲得装置,テクスチャ画像獲得プログラムおよびそのプログラムを記録した記録媒体
Šiljeg et al. Mapping of marine litter on the seafloor using WASSP S3 multibeam echo sounder and chasing M2 ROV
JP2011204200A (ja) 移動体軌跡図作成装置及びコンピュータプログラム
JP6447615B2 (ja) 画像表示装置及び方法、画像生成装置及び方法、並びにプログラム
JP5509828B2 (ja) 画像分類装置と画像分類方法、及びプログラム
JP2020018274A (ja) 水底生物の把握システム、及び、水底生物の把握方法
JP2019184482A (ja) 孔壁観察システム
JP6331562B2 (ja) 特定装置、特定方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170810

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181002

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190903

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200413

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200413

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200427

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200428

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200807

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200817

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201020

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201201

C272 Notice of ex officio correction

Free format text: JAPANESE INTERMEDIATE CODE: C272

Effective date: 20201215

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20201222

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210125

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210127

R150 Certificate of patent or registration of utility model

Ref document number: 6855651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250