JP6930099B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP6930099B2 JP6930099B2 JP2016238464A JP2016238464A JP6930099B2 JP 6930099 B2 JP6930099 B2 JP 6930099B2 JP 2016238464 A JP2016238464 A JP 2016238464A JP 2016238464 A JP2016238464 A JP 2016238464A JP 6930099 B2 JP6930099 B2 JP 6930099B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- area
- image
- pixels
- designated area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
Description
また特許文献2には、画像中の指定領域に含まれる画素を基準画素として一つ選択すると共に基準画素周辺の特定の範囲を第1の範囲として設定し、選択した一の基準画素のみを対象として第1の範囲に含まれる対象画素の各々について指定領域への属否の判定を行った後、新たに基準画素を一つ選択し、第1の範囲の設定および判定を再度行って、指定領域の検出を行う領域判定装置が開示されている。
しかしながら領域を拡張する際に、指定領域外の領域であっても類似色を有する領域について指定領域であるとする場合がある。
本発明は、指定領域の切り出しを行なう際に、指定領域をより精度よく切り出すことができる画像処理装置等を提供することを目的とする。
請求項2に記載の発明は、前記類似度により前記第2の局所領域内の画素が前記指定領域に含まれると検出したときに、前記第2の局所領域内の何れの画素が当該指定領域に含まれるかを設定する画素設定部をさらに備えることを特徴とする請求項1に記載の画像処理装置である。
請求項3に記載の発明は、前記類似度算出部は、前記類似度を基に前記第2の局所領域が前記指定領域に属する強さをさらに算出し、前記強さを使用して前記第2の局所領域中の画素が前記指定領域に属するか否かを判断することにより、前記指定領域を検出することを特徴とする請求項1または2に記載の画像処理装置である。
請求項4に記載の発明は、前記領域検出部は、前記ブロックを単位とした指定領域を検出した後に、当該ブロックを単位とした指定領域の境界の領域において指定領域の設定を解除し、指定領域の設定を解除されなかった画素の中から選択された基準画素を基に当該指定領域の境界の領域において指定領域を再度検出することを特徴とする請求項1に記載の画像処理装置である。
請求項2の発明によれば、指定領域を拡張するための画素を設定することができる。
請求項3の発明によれば、処理速度がさらに高速になる。
請求項4の発明によれば、さらに精度の高い指定領域の切り出しを行なうことができる。
図1は、本実施の形態における画像処理システム1の構成例を示す図である。
図示するように本実施の形態の画像処理システム1は、表示装置20に表示される画像の画像情報に対し画像処理を行なう画像処理装置10と、画像処理装置10により作成された画像情報が入力され、この画像情報に基づき画像を表示する表示装置20と、画像処理装置10に対しユーザが種々の情報を入力するための入力装置30とを備える。
また画像処理装置10と入力装置30とは、例えば、USB(Universal Serial Bus)を介して接続されている。なお、USBに代えて、IEEE1394やRS−232C等を介して接続されていてもよい。
図2は、本実施の形態における画像処理装置10の機能構成例を表すブロック図である。なお図2では、画像処理装置10が有する種々の機能のうち本実施の形態に関係するものを選択して図示している。
図示するように本実施の形態の画像処理装置10は、画像情報取得部11と、ユーザ指示受付部12と、領域検出部13と、領域切替部14と、画像処理部15と、画像情報出力部16とを備える。
具体的には、ユーザ指示受付部12は、表示装置20で表示している画像の中から、ユーザが特定の画像領域として指定した指定領域を指定する指示をユーザ指示情報として受け付ける。この特定の画像領域は、この場合、ユーザが画像処理を行なう画像領域である。実際には、本実施の形態では、ユーザ指示受付部12は、ユーザ指示情報として、ユーザが入力した指定領域の代表位置を表す位置情報を取得する。
また詳しくは後述するが、ユーザ指示受付部12は、ユーザが、この指定領域の中から実際に画像処理を行なうものを選択する指示をユーザ指示情報として受け付ける。さらにユーザ指示受付部12は、選択された指定領域に対し、ユーザが画像処理を行う処理項目や処理量等に関する指示をユーザ指示情報として受け付ける。これらの内容に関するさらに詳しい説明については後述する。
図3は、指定領域を指定する作業をユーザインタラクティブに行う方法の例を示した図である。
図3では、表示装置20の表示画面21で表示している画像が、人物と、人物の背後に写る背景とからなる写真の画像Gである場合を示している。そしてユーザが、前景として人物の顔の部分、および後景として顔以外の部分をそれぞれ指定領域として選択する場合を示している。即ち、この場合指定領域は2つある。以後、顔の部分の指定領域を「第1の指定領域」、顔以外の部分の指定領域を「第2の指定領域」と言うことがある。
このうち図4(a)は、図3と同様の図であり、画像Gにシードとしてシード1およびシード2が描かれた状態を示している。
そして図4(b)で示すように、シードが描かれた箇所から指定領域内に領域が拡張していき、図4(c)で示すように最後に指定領域として2つの指定領域である第1の指定領域S1、第2の指定領域S2が切り出される。
図5(a)〜(b)に示した例では、表示画面21の左側に指定領域が選択された状態の画像Gが表示され、表示画面21の右側に領域1または領域2の何れかを選択するラジオボタン212a、212bが表示される。この場合、領域1は、第1の指定領域S1に、領域2は、第2の指定領域S2に対応する。そしてユーザが入力装置30を使用して、このラジオボタン212a、212bを選択すると、指定領域が切り替わる。
図6は、画像処理を行なう際に、表示装置20の表示画面21に表示される画面の例を示している。
ここでは、選択された指定領域に対し、色相、彩度、輝度の調整を行なう例を示している。この例では、表示画面21の左上側に指定領域が選択された状態の画像Gが表示され、表示画面21の右上側に領域1および領域2の何れかを選択するラジオボタン212a、212bが表示される。ここでは、ラジオボタンのうち212aが選択されており、指定領域として、顔の部分の画像領域である第1の指定領域S1が選択されている。なおラジオボタン212a、212bを操作することで、指定領域の切り替えが可能であることは、図5の場合と同様である。
次に領域検出部13が領域拡張方法により指定領域を切り出す方法についてさらに詳しく説明を行なう。
図7(a)〜(c)は、従来の領域拡張方法について説明した図である。
このうち図7(a)は、原画像であり、縦3画素、横3画素の3×3=9画素の領域からなる。この原画像は、2つの画像領域から構成される。図7(a)では、それぞれの画素の色の濃さの違いによりこの2つの画像領域を表している。それぞれの画像領域に含まれる画素値は互いに近い値を示すものとする。
ここでは図8−1(a)の原画像に対し、図8−1(b)で示すように、シードとしてシード1とシード2の2つを与える。そして各々のシードを基点に領域を拡張していく。この場合、上述したように原画像における周辺画素の画素値との近さ等に応じて領域を拡張していくことができる。このとき図8−1(c)に示すように領域同士のせめぎ合いがある場合は、再判定の対象画素となり、再判定の対象画素の画素値と近傍の画素値との関係でどちらの領域に属するかを決めればよい。このとき、下記文献に記載されている方法を使うことができる。
図示するように、2つの画像領域のそれぞれに基準画素であるシード1およびシード2が選択されている。そしてさらにこのシード1とシード2を中心に位置するようにして縦5画素×横5画素の範囲を第1の範囲とする。図では、この範囲を太線の枠内の範囲として表示している。
まずユーザが最初に指定した代表位置に含まれる画素の強さは、初期値として1となる。つまり領域を拡張する前のシード1やシード2の画素は、強さが1である。またまだラベル付けがされていない画素については、強さは0である。
図8−3(a)〜(b)は、影響力を決定する方法について示した図である。図8−3(a)〜(b)において、横軸は、ユークリッド距離diを表し、縦軸は、影響力を表す。
このユークリッド距離diは、強さを与えられた画素とその画素の周辺に位置する画素との間で決まる画素値のユークリッド距離diである。画素値がRGB値で表される場合、ユークリッド距離diは、以下の数1式のように表すことができる。数1式では、強さを与えられた画素の画素値を(RO、GO、BO)とし、周辺に位置する画素の画素値を(Ri、Gi、Bi)とした場合のユークリッド距離diを示している。
つまりユークリッド距離diが小さいほど、影響力はより大きくなり、ユークリッド距離diが大きいほど、影響力はより小さくなる。
なお単調減少関数は、図8−3(a)のような形状のものに限られるものではなく、単調減少関数であれば特に限られるものではない。よって図8−3(b)のような線形の単調減少関数であってもよい。またユークリッド距離diの特定の範囲で線形であり、他の範囲で非線形であるような区分線形の単調減少関数であってもよい。
図8−2に示す第1の範囲は、シード1とシード2とで一部重なる。そして第1の範囲が、重ならない箇所、即ち、シード1とシード2とで競合しない箇所では、この場合、ラベル付けされていないもので、全て基準画素であるシード1またはシード2と同じラベル付けを行なう。一方、第1の範囲が、シード1とシード2とで重なる箇所、即ち、競合する箇所では、強さが強い方のラベル付けをする。その結果、図8−4に示すようにラベル付けがなされる。
図8−5(a)は、このときシードの画素に対し設定される第1の範囲を示している。つまり基準画素であるシード1およびシード2が選択されている。そしてさらにこのシード1とシード2を中心に位置するようにして縦3画素×横3画素の範囲を第1の範囲としている。図では、この第1の範囲を太線の枠内の範囲として表示している。
本実施の形態では、図8−5(b)に示すように2行2列の位置に設定されるシード2を起点とし、まず第1の範囲内の対象画素が何れの指定領域に属するか否かを判断する。そして図8−5(c)〜(d)に示すように基準画素を図中右側に一画素ずつ移動させつつ、第1の範囲内の対象画素が何れの指定領域に属するか否かを判断していく。この判断は、上述した強さによりなされる。
そして図中右端までを対象画素として判断した後は、次に基準画素を第3列に移し、同様に基準画素を図中右側に一画素ずつ移動させつつ、第1の範囲内の対象画素が何れの指定領域に属するか否かを判断していく。そして図中右端までを対象画素として判断した後は、さらに次の列に移る。これは図8−5(e)〜(g)に示すように繰り返され、図中右下端部に基準画素が移動するまで行なわれる。つまり基準画素を一画素毎に走査するように移動させつつ判断を行なう。
まず領域検出部13の第1の実施形態について説明を行なう。
図9は、第1の実施形態における領域検出部13の機能構成例を表すブロック図である。
図示するように本実施の形態の領域検出部13は、画素選択部131と、局所領域設定部132と、類似度算出部133と、判断部134と、特性変更部135と、収束判定部136とを備える。
また画素選択部131は、基準画素に対し設定され、指定領域に含まれるか否かを判断する対象である周辺画素を選択する。ここでは画素選択部131は、周辺画素として基準画素の周辺にある画素の中から1つの画素を選択する。周辺画素は、シードが付与されていない画素から選択する。
図示する例では、基準画素をP1とし、周辺画素をP2としている。そして基準画素P1を中心に位置するようにして、縦5画素×横5画素の範囲を第1の局所領域R1としている。同様に周辺画素P2を中心に位置するようにして、縦5画素×横5画素の範囲を第2の局所領域R2としている。図では、これらの範囲を太線の枠内の範囲として表示している。
判断部134は、例えば、閾値θを設け、数6式に示すように類似度sが閾値θより小さい場合は、周辺画素P2が、基準画素P1と同じ指定領域に属すると判断する。また類似度sが閾値θ以上である場合は、周辺画素P2が、基準画素P1と同じ指定領域に属さないと判断する。
例えば、図12では、基準画素P1と周辺画素P2の画素値(この場合、輝度値)は大きく異なるが、第1の局所領域R1のテクスチャと第2の局所領域R2のテクスチャとが類似するため、周辺画素P2が、基準画素P1と同じ指定領域に属すると判断される。
ここで特性とは、その画素に付与されるラベルや強さのことを言い、前述のように、シードとなっている基準画素P1の強さは1で、周辺画素P2の強さは伝搬されたu1w12となる(ここでは例えば、これをu2とする)。
ラベルは、上述したようにその画素が何れの指定領域に属するかを表すものであり、指定領域1に属する画素は、ラベル1、指定領域2に属する画素は、ラベル2が付与される。ここではシード1のラベルはラベル1、シード2のラベルはラベル2となるので、判断部134で指定領域1に属する画素と判断された場合は、周辺画素P2は、ラベル1にラベル付けされる。また判断部134で指定領域2に属する画素と判断された場合は、周辺画素P2は、ラベル2にラベル付けされる。ここで、数7式の場合は、閾値θwによってラベルを決定していたが、もし周辺画素P2にラベル付けがされていなければ、そのまま基準画素P1のラベルとし、u1w12を周辺画素P2の強さu2としてもよい。またこの後で、他から伝搬されてきた強さがu2より大きかった場合は、強い方の強さとラベルに変えていき、これを繰り返して収束させてもよい。
収束判定部136は、例えば、ラベルが変更される画素がなくなった、または、強さが変わらなくなったときに収束したと判定する。また予め最大更新回数を定めておき、最大更新回数に達したときに収束したものとみなすこともできる。
図13は、第1の実施形態における領域検出部13の動作について説明したフローチャートである。
まず画素選択部131が、指定領域に属する画素の中から基準画素P1を選択する(ステップ101)。さらに画素選択部131は、基準画素P1に対し設定され、指定領域に含まれるか否かを判断する対象である周辺画素P2を選択する(ステップ102)。
その結果、周辺画素P2が指定領域に含まれると判断された場合(ステップ106でYes)、特性変更部135が、周辺画素P2に対し付与される特性としてラベルを変更する(ステップ107)。また判断部134が強さを基に判断を行なった場合は、特性変更部135は、周辺画素P2に対し付与される特性としてさらに強さを変更する。
その結果、処理が収束した場合(ステップ108でYes)、全ての処理を終了する。
対して処理が収束していない場合(ステップ108でNo)、ステップ101に戻り、新たに基準画素P1や周辺画素P2を選択し、収束するまで周辺画素P2が指定領域に含まれるか否かが判断されていく。
次に領域検出部13の第2の実施形態について説明を行なう。
図14は、第2の実施形態における領域検出部13の機能構成例を表すブロック図である。
図示するように本実施の形態の領域検出部13は、画像分割部137と、シード反映部138と、局所領域設定部132と、類似度算出部133と、判断部134と、画素設定部139と、特性変更部135と、収束判定部136とを備える。
図14に示した領域検出部13は、図9に示した領域検出部13と比較して、画素選択部131が存在しない。一方、画像分割部137、シード反映部138および画素設定部139が加わっている。
図15は、シードが設定された画像Gを表す。ここでは、画像Gに、シード1、シード2、シード3が設定されている。
また図16(a)は、シードが設定された画像Gを分割した例を示している。
ここではシードが設定された画像Gは、図16(b)に示す3画素×3画素からなるブロックB毎に分割されている。なおここでは3画素×3画素=9画素からなるブロックBを設定したが、これに限られるものではない。例えば、n画素×n画素、n画素×m画素(n、mは1以上の整数、ただしn、mは少なくとも一方が2以上である)であってもよい。
図17(a)〜(b)は、シード反映部138の動作について説明した図である。
ここで図17(a)は、図16(a)と同様の図であり、シードが設定された画像GをブロックB毎に分割した例を示している。また図17(b)は、ブロックBを一画素とし、画像Gでシードが設定された画素を含むブロックBには、シードを付与することで、シードを反映させたシード反映画像Gsを示している。この場合、画像Gsに、シード1、シード2、シード3を反映した場合を示している。その結果、このシード反映画像Gsには、図17(a)と同様にシード1、シード2、シード3が設定される。この場合、図17(b)で示したシード反映画像Gsは、図17(a)で示した画像Gを縮小したものであると見ることができる。
つまり判断部134が、第2の局所領域R2中の画素が指定領域に含まれると判断したとき、第2の局所領域R2中の画素は、3画素×3画素=9画素ある。そのためこの中の何れの画素が指定領域に含まれるようにするかが問題となる。この場合、9画素中の何れか1画素を選択してもよく、複数の画素を選択してもよい。例えば、9画素中の中心の1画素としてもよく、9画素中の中から1画素以上をランダムに選択してもよい。また9画素全てが指定領域に含まれるとしてもよい。
図22は、第2の実施形態における領域検出部13の動作について説明したフローチャートである。
まず画像分割部137は、シードが設定された画像をブロックB毎に分割する(ステップ201)。
その結果、処理が収束した場合(ステップ209でYes)、全ての処理を終了する。
対して処理が収束していない場合(ステップ209でNo)、ステップ202に戻り、新たに第1の局所領域R1や第2の局所領域R2を設定し、収束するまで第2の局所領域R2中の画素が指定領域に含まれるか否かが判断されていく。
また、2つ目としては、図17(b)のようにブロック化した後、ブロックBを画素とみなし、この場合は、閾値による判断のみに依存するシードの拡散というよりは、強さ比較の更新ルールで収束させる伝搬を行って、収束した結果を領域分離の結果とする方法である。画像Gが大きいときはこれでもよい。
第2の実施形態で、シードの拡散のみならず、強さの更新に基づく収束方法で領域分離までを行った場合、画像Gの大きさやブロックBの大きさによっては、図23(a)に示すように、領域の境界が、粗くなることがある。
これは領域検出部13は、ブロックBを単位とした指定領域を検出した後に、ブロックBを単位とした指定領域の境界の領域において指定領域の設定を解除し、指定領域の設定を解除されなかった画素の中から選択された基準画素を基に指定領域の境界の領域において指定領域を再度検出する、と言うこともできる。
図24は、前景として写る床と、床以外の後景とからなる写真の画像Gにおいて、シード1およびシード2を設定した場合を示している。
本実施の形態では、図25のような切り抜き結果(過剰な検出や、検出不足が伴う結果)が生じにくく、図26のように、第1の指定領域S1、第2の指定領域S2をより精度よく切り出すことができる。
また上述した例では、第1の局所領域R1および第2の局所領域R2に含まれる画素は、同数であったが、異なっていてもよい。
次に、画像処理装置10のハードウェア構成について説明する。
図27は、画像処理装置10のハードウェア構成を示した図である。
画像処理装置10は、上述したようにパーソナルコンピュータ等により実現される。そして図示するように、画像処理装置10は、演算手段であるCPU(Central Processing Unit)91と、記憶手段であるメインメモリ92、およびHDD(Hard Disk Drive)93とを備える。ここで、CPU91は、OS(Operating System)やアプリケーションソフトウェア等の各種プログラムを実行する。また、メインメモリ92は、各種プログラムやその実行に用いるデータ等を記憶する記憶領域であり、HDD93は、各種プログラムに対する入力データや各種プログラムからの出力データ等を記憶する記憶領域である。
さらに、画像処理装置10は、外部との通信を行うための通信インターフェース(以下、「通信I/F」と表記する)94を備える。
ここで以上説明を行った本実施の形態における画像処理装置10が行なう処理は、例えば、アプリケーションソフトウェア等のプログラムとして用意される。
Claims (4)
- 画像中の指定領域の代表位置を表す位置情報を取得する位置情報取得部と、
位置情報から指定領域を検出する領域検出部と、
を備え、
前記領域検出部は、
前記指定領域に属する画素の周囲のテクスチャと当該指定領域に含まれるか否かを判断する対象である画素の周囲のテクスチャとの類似度を基に当該指定領域を検出し、
前記代表位置が設定された前記画像をブロック毎に分割する画像分割部と、当該ブロックを単位としテクスチャを算出するための範囲として、第1の局所領域および第2の局所領域を設定する局所領域設定部と、当該第1の局所領域内のテクスチャと当該第2の局所領域内のテクスチャとの類似度を算出する類似度算出部と、を備える
ことを特徴とする画像処理装置。 - 前記類似度により前記第2の局所領域内の画素が前記指定領域に含まれると検出したときに、前記第2の局所領域内の何れの画素が当該指定領域に含まれるかを設定する画素設定部をさらに備えることを特徴とする請求項1に記載の画像処理装置。
- 前記類似度算出部は、前記類似度を基に前記第2の局所領域が前記指定領域に属する強さをさらに算出し、
前記強さを使用して前記第2の局所領域中の画素が前記指定領域に属するか否かを判断することにより、前記指定領域を検出することを特徴とする請求項1または2に記載の画像処理装置。 - 前記領域検出部は、前記ブロックを単位とした指定領域を検出した後に、当該ブロックを単位とした指定領域の境界の領域において指定領域の設定を解除し、指定領域の設定を解除されなかった画素の中から選択された基準画素を基に当該指定領域の境界の領域において指定領域を再度検出することを特徴とする請求項1に記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016238464A JP6930099B2 (ja) | 2016-12-08 | 2016-12-08 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016238464A JP6930099B2 (ja) | 2016-12-08 | 2016-12-08 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018097414A JP2018097414A (ja) | 2018-06-21 |
JP6930099B2 true JP6930099B2 (ja) | 2021-09-01 |
Family
ID=62632973
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016238464A Active JP6930099B2 (ja) | 2016-12-08 | 2016-12-08 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6930099B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000216979A (ja) * | 1999-01-22 | 2000-08-04 | Canon Inc | 画像抽出方法及び装置並びに記憶媒体 |
US20150347862A1 (en) * | 2014-05-30 | 2015-12-03 | Fuji Xerox Co., Ltd. | Image processing apparatus, image processing method, image processing system, and non-transitory computer readable medium storing program |
-
2016
- 2016-12-08 JP JP2016238464A patent/JP6930099B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018097414A (ja) | 2018-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101719088B1 (ko) | 영역 분할 방법 및 검사 장치 | |
US9792695B2 (en) | Image processing apparatus, image processing method, image processing system, and non-transitory computer readable medium | |
JP5880767B2 (ja) | 領域判定装置、領域判定方法およびプログラム | |
US20090304280A1 (en) | Interactive Segmentation of Images With Single Scribbles | |
US20150043820A1 (en) | Area designating method and area designating device | |
JP2017126304A (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP6287337B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
AU2020201976B2 (en) | Two dimensional touch interaction screens with content-aware sensors | |
JP5907196B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
CN106033334B (zh) | 绘制界面元素的方法和装置 | |
JP6241320B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
AU2014280985B2 (en) | Image processing apparatus, image processing method, image processing system, and program | |
US9875555B2 (en) | Partitioning an image | |
JP6550819B2 (ja) | 選択支援装置及びプログラム | |
JP6930099B2 (ja) | 画像処理装置 | |
US20210072884A1 (en) | Information processing apparatus and non-transitory computer readable medium | |
JP2018097415A (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
US20230215050A1 (en) | Information processing apparatus, method, and storage medium to generate a color-difference map | |
JP2019101844A (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP2016004309A (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP2024000678A (ja) | データ比較装置、該方法および該プログラム | |
CN117475053A (zh) | 草地渲染方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191125 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210305 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210330 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210713 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210726 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6930099 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |