JP7148390B2 - 接近物検出装置及び接近物検出方法 - Google Patents
接近物検出装置及び接近物検出方法 Download PDFInfo
- Publication number
- JP7148390B2 JP7148390B2 JP2018245056A JP2018245056A JP7148390B2 JP 7148390 B2 JP7148390 B2 JP 7148390B2 JP 2018245056 A JP2018245056 A JP 2018245056A JP 2018245056 A JP2018245056 A JP 2018245056A JP 7148390 B2 JP7148390 B2 JP 7148390B2
- Authority
- JP
- Japan
- Prior art keywords
- approaching object
- vector
- time
- approaching
- door
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Description
本発明は、接近物検出装置及び接近物検出方法に関する。
車両に搭載された接近物検出装置は、車両に搭載されたカメラによって撮影された画像を用いて接近物を検出する。しかし、車両はドアの開閉等によって揺れる。この車両の揺れがカメラによって撮影された画像に反映されると、接近物検出装置は、正確に接近物を検出することができない。このため、接近物検出装置は、ドアが開閉されると、接近物の検出を一時的に中止している。
同様に、特許文献1に記載のドライブレコーダにおいても、ドア開閉等の記録する必要のないエラーイベントが発生すると、所定の期間、不揮発性メモリへの画像の記録を禁止する。
しかしながら、車両のドアが閉じられた場合、その後、車両が発進する可能性がある。また、車両のドアが開けられた場合、その後、人が車両に乗降する可能性がある。
したがって、ドアが開閉された場合においても、接近物検出を継続できるようにすることが望ましい。
本発明の目的は、ドアが開閉された場合であっても、接近物を検出することができる接近物検出装置及び接近物検出方法を提供することである。
(第1の発明)
第1の発明は、接近する接近物を検出する接近物検出装置であって、カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出部と、前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出部と、ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定部と、前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出部と、を備える。
第1の発明は、接近する接近物を検出する接近物検出装置であって、カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出部と、前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出部と、ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定部と、前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出部と、を備える。
第1の発明は、物体の移動ベクトルを、ドアが閉まった時刻におけるカメラの揺れベクトルに基づいて補正することで、接近している接近物を検出する。したがって、第1の発明は、ドアが閉まった直後であっても、接近物を検出することができる。
(第2の発明)
第2の発明に係る接近物検出装置は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルを検出し、前記接近物検出部は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正する。
第2の発明に係る接近物検出装置は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルを検出し、前記接近物検出部は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正する。
第2の発明は、カメラの揺れを考慮した接近物の検出を、ドアが閉まった後、所定の条件が満たされるまで継続する。このため、第2の発明は、ドアが閉まった後に揺れが継続している場合であっても、接近物を検出することができる。
(第3の発明)
第3の発明に係る接近物検出装置は、前記揺れ検出部は、前記カメラの揺れベクトルの大きさが所定の値を超えると、前記接近物検出部による接近物の検出を停止させる。
第3の発明に係る接近物検出装置は、前記揺れ検出部は、前記カメラの揺れベクトルの大きさが所定の値を超えると、前記接近物検出部による接近物の検出を停止させる。
第3の発明は、カメラの揺れが所定の値を超えた場合に、接近物の検出を停止する。このため、カメラが大きく揺れた場合の誤検出を防止できる。
(第4の発明)
第4の発明に係る接近物検出方法は、接近する接近物を検出する接近物検出方法であって、カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出工程と、前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出工程と、ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定工程と、前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出工程と、を備える。
第4の発明に係る接近物検出方法は、接近する接近物を検出する接近物検出方法であって、カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出工程と、前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出工程と、ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定工程と、前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出工程と、を備える。
第4の発明に係る接近物検出方法は、物体の移動ベクトルを、ドアが閉まった時刻におけるカメラの揺れベクトルに基づいて補正することで、カメラに接近している接近物を検出する。したがって、本発明に係る接近物検出方法は、ドアが閉まった直後であっても、接近物を検出することができる。
本発明の接近物検出装置及び接近物検出方法は、ドアが閉まった直後であっても、接近物を検出することができる。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。なお、本発明は、以下に示す実施形態に限定されるものではない。また、これらの実施の例は例示に過ぎず、本発明は当業者の知識に基づいて種々の変更、改良を施した形態で実施することができる。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のもの、又は相当するものを示すものとする。
(実施形態)
図1に本発明の実施形態に係る接近物検出装置の構成を示す機能ブロック図を示す。本実施形態に係る接近物検出装置20は車両に搭載されている。また、接近物検出装置20を搭載した車両は、停止している。
図1に本発明の実施形態に係る接近物検出装置の構成を示す機能ブロック図を示す。本実施形態に係る接近物検出装置20は車両に搭載されている。また、接近物検出装置20を搭載した車両は、停止している。
接近物検出装置20は、接近する接近物を検出する。接近物検出装置20は、車両に搭載されたカメラ11が撮影した動画像を取得する。接近物検出装置20は、カメラ11によって撮影された動画像を用いて、カメラ11に接近する接近物を検出する。接近物検出装置20は、検出結果を通知部31に出力する。接近物検出装置20は、ドアセンサ12から、車両のドアが閉まっているか否かの情報を取得する。
カメラ11は、映像を撮影するための装置である。カメラ11は、動画像を撮影する。カメラ11は、車両に搭載されているので、車両の揺れに伴って揺れる。
ドアセンサ12は、ドアが閉まっているか否かを示す開閉情報を出力する。
通知部31は、接近物検出装置20から取得した検出結果に基づいて、接近物が接近していることを車両の運転者等に通知する。通知部31は、例えば、ディスプレイ、スピーカを備える。通知部31は、接近物検出装置20が接近物を検出すると、例えば、ディスプレイに警告画像を表示させ、スピーカに警告音を発させる。
接近物検出装置20は、移動ベクトル検出部21と、揺れ検出部22と、時刻特定部23と、接近物検出部24と、を備える。
移動ベクトル検出部21は、カメラ11によって撮影された動画像をフレーム単位で取得する。以下、取得した動画像に含まれるフレームを「撮影画像」と記載する。移動ベクトル検出部21は、時刻T1に撮影された第1撮影画像と、時刻T1よりも後の時刻である時刻T2に撮影された第2撮影画像を取得する。カメラ11が動画像を30fps(frames per second)で出力する場合、時刻T2は、例えば、時刻T1の約33mS後である。
移動ベクトル検出部21は、第1撮影画像における物体の位置を基準として、第2撮影画像における物体の位置がどれだけ変化したかを検出し、物体の移動ベクトルを検出する。移動ベクトル検出部21は、検出した物体の移動ベクトルと、その物体が撮影された時刻とを関連付けて出力する。
揺れ検出部22は、移動ベクトル検出部21が検出した物体の移動ベクトルを取得する。揺れ検出部22は、取得した物体の移動ベクトルを用いて、揺れベクトルの検出を行う。
揺れベクトルについて説明する。揺れベクトルとは、カメラ11の揺れの影響で発生した物体の移動ベクトルである。例えば、静止物を撮影しているカメラ11が、時刻T1から時刻T2までの期間において、鉛直方向に揺れたとする。この場合、第2撮影画像における物体は、第1撮影画像における物体を基準として鉛直方向に移動する。このため、第1撮影画像及び第2撮影画像を用いて物体の移動ベクトルを抽出すると、静止物は、鉛直方向の物体の移動ベクトルを示す。このような、カメラ11の揺れの影響で検出される物体の移動ベクトルが、揺れベクトルである。
揺れ検出部22は、取得したドアが閉じた時刻から、所定の条件が満たされるまで、カメラ11の揺れベクトルの検出を行う。揺れ検出部22は、後述する時刻特定部23からドアが閉じた時刻を取得する。また、揺れ検出部22は、後述する時刻特定部23から揺れベクトルの検出を停止する条件を取得する。揺れ検出部22が揺れベクトルの検出を停止する条件とは、例えば、揺れ検出部22によって決定される揺れ検出終了時刻を過ぎることや、カメラ11が搭載された車両が発進することである。揺れ検出終了時刻は、例えば、ドアが閉じた時刻から10秒である。
揺れ検出部22は、移動ベクトル検出部21によって検出された物体の移動ベクトルと、その物体が撮影された時刻とが関連付けられたデータとを取得する。揺れ検出部22は、物体の移動ベクトルの向き及び大きさごとに、物体の移動ベクトルの数を集計する。揺れ検出部22は、物体の移動ベクトルの向き及び大きさの両方において、最も数が大きな成分を揺れベクトルとして検出する。具体的な揺れベクトルの検出については、後述する。揺れ検出部22は、揺れベクトルの大きさが所定の値を超えたと判断すると、接近物検出部24に接近物の位置の検出を中止させる。接近物検出部24による接近物の位置の検出については、後述する。
時刻特定部23は、ドアセンサ12から、ドアが閉まっているか否かを示す開閉情報を取得する。時刻特定部23は、開閉信号を用いて、ドアが閉じた時刻T1を特定する。時刻特定部23は、特定した時刻T1に基づいて、揺れ検出部22が揺れベクトルの検出を停止する条件を出力する。
接近物検出部24は、移動ベクトル検出部21によって検出された物体の移動ベクトルと、その物体が撮影された時刻とが関連付けられたデータとを取得する。接近物検出部24は、取得した物体の移動ベクトルを用いて、カメラ11に接近する接近物と接近物の位置とを検出する。
接近物検出部24は、揺れ検出部22から取得した揺れベクトルを用いて、移動ベクトル検出部21から取得した物体の移動ベクトルを補正する。接近物検出部24は、ドアが閉じた時刻T1から、所定の条件が満たされるまでの間、物体の移動ベクトルを補正する。
接近物検出部24は、ドアが閉じられた時刻T1における物体の移動ベクトルから、ドアが閉じられた時刻T1における揺れベクトルを減算することで、物体の移動ベクトルを補正する。また、接近物検出部24は、補正された物体の移動ベクトルに基づいて、接近物と、接近物の位置とを検出する。接近物検出部24は、カメラ11の揺れが所定の大きさを超えると、接近物の検出を停止する。
<動作概略>
車両に搭載された接近物検出装置20は、車両に搭載されたカメラ11から取得した動画像を用いて接近物検知を行う。接近物検出装置20は、車両が停止している場合に接近物検知を行う。車両のドアが閉じられると、接近物検出装置20は、カメラ11の揺れを考慮した接近物検知を行う。先ず、車両のドアが閉じられた場合について説明する。
車両に搭載された接近物検出装置20は、車両に搭載されたカメラ11から取得した動画像を用いて接近物検知を行う。接近物検出装置20は、車両が停止している場合に接近物検知を行う。車両のドアが閉じられると、接近物検出装置20は、カメラ11の揺れを考慮した接近物検知を行う。先ず、車両のドアが閉じられた場合について説明する。
(車両のドアが閉じられた場合の動作)
ドアセンサ12は、時刻T1にドアが閉じられると、時刻特定部23にドアが閉じられたことを開閉情報として通知する。時刻特定部23は、ドアセンサ12によってドアが閉じられたことを開閉情報として通知されると、ドアが閉じられた時刻を特定する。時刻特定部23は、特定したドアが閉じられた時刻T1を出力する。時刻特定部23は、揺れベクトルの検出を終了する時刻である揺れ検出終了時刻を決定する。時刻特定部23は、揺れ検出終了時刻を出力する。
ドアセンサ12は、時刻T1にドアが閉じられると、時刻特定部23にドアが閉じられたことを開閉情報として通知する。時刻特定部23は、ドアセンサ12によってドアが閉じられたことを開閉情報として通知されると、ドアが閉じられた時刻を特定する。時刻特定部23は、特定したドアが閉じられた時刻T1を出力する。時刻特定部23は、揺れベクトルの検出を終了する時刻である揺れ検出終了時刻を決定する。時刻特定部23は、揺れ検出終了時刻を出力する。
移動ベクトル検出部21は、カメラ11によって撮影された動画像を取得する。移動ベクトル検出部21は、時刻特定部23からドアが閉じられた時刻T1を取得すると、取得した動画像から、時刻T1における第1撮影画像と、時刻T2における第2撮影画像を取得する。時刻T2は時刻T1よりも後の時刻である。
図2に、第1撮影画像に相当する画像200を示す。画像200は、物体101から物体111を含む。以後の説明では、物体101を、車両101ということがある。図3に、第2撮影画像に相当する画像201を示す。画像201は、車両101と、物体102から物体111を有する。画像200では、画像200の左上端を原点としたX軸、Y軸を用いて、位置、及び方向を示す。画像201についても同様である。
画像200の物体101から物体111を基準とすると、画像201の物体101から物体111は、全体的にY軸の負方向に移動している。このため、画像201における物体102及び物体110の上部は、画像201に映っていない。ただし、物体105を基準とすると、画像201の車両101は、画像200の車両101と比較してY軸の正方向に移動している。これらは、時刻T1から時刻T2の間に、走行による車両101の移動と、ドアが閉じられたことによるカメラ11の揺れが生じたことが原因である。
車両101の移動、及びカメラ11の揺れとの影響を、車両101周辺を抽出した画像を用いて説明する。図4に示した画像202は、画像200の一部であり、図2に点線で囲んだ部分である。図5に示した画像203は、画像201の一部であり、図3に点線で囲んだ部分である。画像202及び画像203は、車両101と、物体104と、物体105とを有する。
移動ベクトル検出部21は、画像202が有する特徴点と、画像203が有する特徴点を抽出する。特徴点の抽出は、例えば、Harrisオペレータ等のコーナー検出法を用いる。移動ベクトル検出部21は、抽出した特徴点の位置を比較し、特徴点の移動方向、移動量を求める。移動ベクトル検出部21は、特徴点の移動方向、移動量から、特徴点の物体の移動ベクトルを検出する。つまり、移動ベクトル検出部21は、画像202を画像203と比較してオプティカルフローを算出し、その取得したオプティカルフローを物体の移動ベクトルとして取得する。
図6に、移動ベクトル検出部21が検出した物体の移動ベクトルを有する画像204を示す。画像204では、物体の移動ベクトルを2点鎖線で示す。また、画像204では、画像202の車両101等を実線で示し、画像203の車両101等を点線で示す。画像204に示すように、物体の移動ベクトルは、画像202の特定の点と、画像203のうちの画像202の特定の点に対応する点とを結ぶベクトルである。
図6に、物体の移動ベクトルv_6101、v_6104、v_6105を示す。物体の移動ベクトルv_6101は、車両101から検出された物体の移動ベクトルを代表する物体の移動ベクトルである。物体の移動ベクトルv_6104は、物体104から検出された物体の移動ベクトルを代表する物体の移動ベクトルである。物体の移動ベクトルv_6105は、物体105から検出された物体の移動ベクトルを代表する物体の移動ベクトルである。図6では、車両101、物体104、105に対して1個の物体の移動ベクトルのみを示している。しかし、実際には車両101、物体104、105の輪郭線に沿った複数の物体の移動ベクトルが検出される。
図6に示すように、車両101の物体の移動ベクトルv_6101と、車両101以外の物体の移動ベクトルv_6104、v_6105は大きさが異なる。この大きさの相違は、車両101がカメラ11の揺れとは逆の方向に移動しているために生じる。移動ベクトル検出部21は、検出した物体の移動ベクトルと、時刻T1とを関連付けて出力する。
揺れ検出部22は、移動ベクトル検出部21によって検出された物体の移動ベクトルを取得する。揺れ検出部22は、時刻特定部23によって決定された揺れ検出終了時刻を取得する。揺れ検出部22は、取得した物体の移動ベクトルを、向きごとに集計する。また、揺れ検出部22は、取得した物体の移動ベクトルを、大きさごとに集計する。
図7に物体の移動ベクトルの向きの定義を示す。図7に示したX軸及びY軸は、図2に示した画像の座標を示す際に用いたX軸及びY軸と同じである。物体の移動ベクトルの向きは、Y軸の負方向を0度として、時計回りを正方向の角度とする。例えば、図7に示したベクトルv4の向きは45度である。
図8に、画像204に示した物体の移動ベクトルを、向きごとに集計した結果を示す。画像204が有する物体の移動ベクトルは、向きが-15度から15度の範囲において、数がA1である。画像204には、向きが-15度から15度の範囲以外の物体の移動ベクトルはない。
図9に、画像204に示した物体の移動ベクトルを、大きさごとに集計した結果を示す。図9では、物体の移動ベクトルの大きさの単位はピクセルである。画像204が有する物体の移動ベクトルは、大きさが6において数がA21であり、大きさが9において数がA22である。図9に示すグラフは、大きさが9において数がA22の物体の移動ベクトルが最も数が多いことを示している。
揺れ検出部22は、向きが-15度から15度の範囲であり、大きさが9において数がA22の物体の移動ベクトルを、揺れベクトルとして検出する。つまり、揺れ検出部22は、向き、大きさの数が最も多い物体の移動ベクトルを、揺れベクトルとして検出する。
接近物検出部24は、移動ベクトル検出部21から物体の移動ベクトルと、物体の移動ベクトルを検出した時刻T1とを取得する。接近物検出部24は、時刻特定部23からドアが閉じられた時刻T1を取得する。接近物検出部24は、ドアが閉じられた時刻から所定の条件が満たされるまでの間、揺れベクトルに基づいて物体の移動ベクトルを補正する。接近物検出部24は、物体の移動ベクトルを検出した時刻はT1であり、ドアが閉じられた時刻T1であるため、揺れベクトルに基づいて、物体の移動ベクトルを補正する。
接近物検出部24は、物体の移動ベクトルから、揺れベクトルを減算することで、物体の移動ベクトルを補正する。図10を用いて、ベクトルの減算について説明する。物体の移動ベクトルv31から、揺れベクトルv32を減算すると、ベクトルv33となる。このベクトルv33の始点を物体の移動ベクトルv31と一致させるために、ベクトルv33を平行移動させて、ベクトルv34とする。このベクトルv34が、補正後の物体の移動ベクトルである。
なお、揺れが発生していない場合、揺れベクトルv32はゼロベクトルである。このため、揺れが発生していない場合、補正後の物体の移動ベクトルv34は、物体の移動ベクトルv31と一致する。
図11に、接近物検出部24によって補正された、補正後の物体の移動ベクトルの向きを示す。補正後の物体の移動ベクトルは、向きが165度から195度の範囲において、数がA3である。
図12に、接近物検出部24によって補正された、補正後の物体の移動ベクトルの大きさを示す。補正後の物体の移動ベクトルは、大きさが3において、数がA4である。図11に示したA3が示す数と、図12に示したA4が示す数は等しい。
図13に、接近物検出部24によって補正された、補正後の物体の移動ベクトルv_13101を2点鎖線で示す。補正後の物体の移動ベクトルv_13101は、車両101から検出された物体の移動ベクトルを代表する物体の移動ベクトルである。図13では、車両101に対して1個の物体の移動ベクトルのみを示しているが、実際には車両101の輪郭線に沿った複数の物体の移動ベクトルが検出される。図13に示すように、補正後の物体の移動ベクトルv_13101はY軸の正方向を向いている。また、図13に、画像202での車両101、及び画像203での車両101を示す。車両101は、時刻T1の画像202を基準とすると、時刻T2の画像203ではY軸の負方向に移動している。
図14に、補正後の物体の移動ベクトルv_13101から求めた補正後の車両101の位置を、車両101(補正後)として示す。車両101(補正後)は、時刻T1の画像202を基準とすると、Y軸の正方向に移動している。
接近物検出部24は、補正後の物体の移動ベクトルの向きに基づいて、物体が検出したカメラ11の位置に向かっているか否かを検出する。言い換えれば、車両101が、検出したカメラ11の位置に向かっているか否かを検出する。
接近物検出部24は、車両101が検出したカメラ11の位置に向かっていると判定すると、車両101を接近物として検出する。また、接近物検出部24は、補正後の物体の移動ベクトルの先端の位置を、車両101の位置として検出する。通知部31は、接近物検出部24によって検出された接近物である車両101の位置を通知する。
(車両のドアが閉じられた後、所定の条件が満たされるまでの動作)
接近物検出装置20は、車両のドアが閉じられた後、所定の条件が満たされるまでの間、接近物検出部24による接近物検出の際に、揺れベクトルを用いて物体の移動ベクトルを補正する。ここで、所定の条件とは、揺れ検出終了時刻が過ぎることである。つまり、接近物検出装置20は、車両のドアが閉じられた後、揺れ検出終了時刻が過ぎるまで、接近物検出部24による接近物検出の際に、揺れベクトルを用いて物体の移動ベクトルを補正する。
接近物検出装置20は、車両のドアが閉じられた後、所定の条件が満たされるまでの間、接近物検出部24による接近物検出の際に、揺れベクトルを用いて物体の移動ベクトルを補正する。ここで、所定の条件とは、揺れ検出終了時刻が過ぎることである。つまり、接近物検出装置20は、車両のドアが閉じられた後、揺れ検出終了時刻が過ぎるまで、接近物検出部24による接近物検出の際に、揺れベクトルを用いて物体の移動ベクトルを補正する。
(車両のドアが閉じられた後、所定の条件が満たされた後の動作)
接近物検出装置20は、車両のドアが閉じられた後、所定の条件が満たされると、接近物検出部24による接近物検出の際に、揺れベクトルによる補正を行わない。ここで、所定の条件とは、揺れ検出終了時刻が過ぎることである。所定の条件は、例えば、車両の駐車後であり、揺れ検出終了時刻が過ぎた後に満たされる。つまり、接近物検出装置20に備わる接近物検出部24は、揺れ検出終了時刻が過ぎると、移動ベクトル検出部21によって検出された物体の移動ベクトルを取得して接近物検出を行う。なお、車両のドアが閉じられる前も、同じ動作を行う。
接近物検出装置20は、車両のドアが閉じられた後、所定の条件が満たされると、接近物検出部24による接近物検出の際に、揺れベクトルによる補正を行わない。ここで、所定の条件とは、揺れ検出終了時刻が過ぎることである。所定の条件は、例えば、車両の駐車後であり、揺れ検出終了時刻が過ぎた後に満たされる。つまり、接近物検出装置20に備わる接近物検出部24は、揺れ検出終了時刻が過ぎると、移動ベクトル検出部21によって検出された物体の移動ベクトルを取得して接近物検出を行う。なお、車両のドアが閉じられる前も、同じ動作を行う。
<フローチャート>
図15に、接近物検出装置20のフローチャートを示す。接近物検出装置20は、車両が停止しているときに、定期的にこのフローチャートを実行する。また、本実施形態に係る接近物検出方法は、このフローチャートに沿って実行される。
図15に、接近物検出装置20のフローチャートを示す。接近物検出装置20は、車両が停止しているときに、定期的にこのフローチャートを実行する。また、本実施形態に係る接近物検出方法は、このフローチャートに沿って実行される。
先ず、時刻特定部23は、ドアが閉じたか否かを確認する(ステップS101)。ステップS101において、ドアが閉じた場合(ステップS101でYes)、時刻特定部23は、ドアが閉じた時刻を特定する時刻特定工程を実行する(ステップS102)。時刻特定部23は、時刻T1を、ドアが閉じられた時刻とする。
ステップS102の後、時刻特定部23は、揺れベクトルの検出を終了する時刻である揺れ検出終了時刻を決定する(ステップS103)。
ステップS103の後、移動ベクトル検出部21は、時刻T1に撮影された第1撮影画像と、時刻T2に撮影された第2撮影画像とを取得する。移動ベクトル検出部21は、第1撮影画像と、第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出工程を実行する(ステップS104)。
ステップS101において、ドアが閉じていない場合(ステップS101でNo)、移動ベクトル検出部21は、移動ベクトル検出工程を実行する(ステップS104)。その際、移動ベクトル検出部21は、時刻T1を、本フローチャートを開始した時刻とする。
ステップS104の後、揺れ検出終了時刻の前である場合(ステップS105でYes)、揺れ検出部22は、カメラ11の揺れベクトルを検出する揺れ検出工程を実行する(ステップS106)。ステップS106の後、揺れ検出部22は、揺れベクトルが所定の大きさを超えているか否かを確認する(ステップS107)。ステップS107において、揺れベクトルが所定の大きさを超えている場合、(ステップS107においてYes)、本フローチャートは終了する。
ステップS107において、揺れベクトルが所定の大きさを超えていない場合(ステップS107においてNo)、接近物検出部24は、揺れベクトルに基づいて、物体の移動ベクトルを補正する(ステップS108)。ステップS108の後、接近物検出部24は、接近する物体を検出する接近物検出工程を実行する(ステップS109)。ステップS109の後、本フローチャートは終了する。
ステップS105において、揺れ検出終了時刻の前ではない場合(ステップS105でNo)、接近物検出部24は、接近物検出工程を実行する(ステップS109)。ステップS109の後、本フローチャートは終了する。
(車両が揺れていない場合の動作)
図15に示したフローチャートを用いて、車両が揺れていない場合における接近物検出装置20の動作について説明する。車両が揺れていない場合とは、例えば、車両の駐車後であり、揺れ検出終了時刻が過ぎた後である。
図15に示したフローチャートを用いて、車両が揺れていない場合における接近物検出装置20の動作について説明する。車両が揺れていない場合とは、例えば、車両の駐車後であり、揺れ検出終了時刻が過ぎた後である。
時刻特定部23は、ドアが閉じたか否かを確認する(ステップS101)。ドアは閉じていないので(ステップS101でNo)、移動ベクトル検出部21は、移動ベクトル検出工程を実行する(ステップS104)。
ステップS104の後、接近物検出装置20は、ステップS105を実行する。揺れ検出時刻が過ぎているか、揺れ検出時刻が設定されていないため(ステップS105でNo)、接近物検出部24は、接近物検出工程を実行する(ステップS109)。この場合、揺れ補正(ステップS108)が行われないため、接近物検出部24は、揺れベクトルを用いた接近物検出を行わない。ステップS109の後、本フローチャートは終了する。
本実施形態に係る接近物検出装置20は、物体の移動ベクトルを、ドアが閉まった時刻におけるカメラ11の揺れベクトルに基づいて補正することで、カメラ11に接近している接近物を検出する。したがって、本実施形態に係る接近物検出装置20は、ドアが閉まった直後であっても、接近物を検出することができる。
また、本実施形態に係る接近物検出装置20は、カメラ11の揺れを考慮した接近物の検出を、ドアが閉まった後、所定の条件が満たされるまで継続する。このため、ドアが閉まった後、揺れが継続している場合であっても、接近物を検出することができる。
また、本実施形態に係る接近物検出装置20は、カメラ11の揺れが所定の値を超えた場合に、接近物の検出を停止する。このため、カメラ11が大きく揺れた場合の誤検出を防止できる。
また、本実施形態に係る接近物検出方法は、物体の移動ベクトルを、ドアが閉まった時刻におけるカメラの揺れベクトルに基づいて補正することで、カメラに接近している接近物を検出する。したがって、本実施形態に係る接近物検出方法は、ドアが閉まった直後であっても、接近物を検出することができる。
(変形例1)
上記実施形態では、接近物検出装置20は、物体101から物体111を検出する例を説明したが、本発明はこれに限定されない。1個の物体から物体の移動ベクトルが1個検出される場合、接近物検出装置20が検出する物体は、3個以上であればよい。接近物検出装置20は、揺れベクトルに基づいて物体の移動ベクトルを補正する。ここで、揺れベクトルは、物体の移動ベクトルのうち、物体の移動ベクトルの向き、大きさの数が最も多い物体の移動ベクトルである。言い換えれば、揺れベクトルは、物体の移動ベクトルの向き、大きさによる多数決で決まる。したがって、1個の物体から物体の移動ベクトルが1個検出される場合、接近物検出装置20が検出する物体は、3個以上であればよい。
上記実施形態では、接近物検出装置20は、物体101から物体111を検出する例を説明したが、本発明はこれに限定されない。1個の物体から物体の移動ベクトルが1個検出される場合、接近物検出装置20が検出する物体は、3個以上であればよい。接近物検出装置20は、揺れベクトルに基づいて物体の移動ベクトルを補正する。ここで、揺れベクトルは、物体の移動ベクトルのうち、物体の移動ベクトルの向き、大きさの数が最も多い物体の移動ベクトルである。言い換えれば、揺れベクトルは、物体の移動ベクトルの向き、大きさによる多数決で決まる。したがって、1個の物体から物体の移動ベクトルが1個検出される場合、接近物検出装置20が検出する物体は、3個以上であればよい。
(変形例2)
上記実施形態では、接近物検出装置20は、図2のY軸方向にのみ移動する物体を検出する場合について説明したが、本発明はこれに限定されない。接近物検出装置20は、図2のX軸方向にのみ移動する物体、及び図2のX軸方向及びY軸方向の両方に移動する物体を検出してよい。
上記実施形態では、接近物検出装置20は、図2のY軸方向にのみ移動する物体を検出する場合について説明したが、本発明はこれに限定されない。接近物検出装置20は、図2のX軸方向にのみ移動する物体、及び図2のX軸方向及びY軸方向の両方に移動する物体を検出してよい。
(変形例3)
上記実施形態では、ドアが閉じた後における揺れを補正した接近物検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、ドアが開いている間も、揺れ検出部22を動作させて接近物検出を行ってもよい。例えば、ドアを開けて車両に荷物を搬入する場合、及び車両から荷物を搬出する場合には、車両が揺れると考えられる。また、車両に人が乗る場合、及び車両から人が降りる場合にも、車両が揺れると考えられる。このため、ドアが開いている間、揺れ検出部22を動作させて接近物検出を行うことで、接近物検出装置20を搭載した車両の安全性を高めることができる。
上記実施形態では、ドアが閉じた後における揺れを補正した接近物検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、ドアが開いている間も、揺れ検出部22を動作させて接近物検出を行ってもよい。例えば、ドアを開けて車両に荷物を搬入する場合、及び車両から荷物を搬出する場合には、車両が揺れると考えられる。また、車両に人が乗る場合、及び車両から人が降りる場合にも、車両が揺れると考えられる。このため、ドアが開いている間、揺れ検出部22を動作させて接近物検出を行うことで、接近物検出装置20を搭載した車両の安全性を高めることができる。
(変形例4)
上記実施形態では、ドアが閉じた後における接近物検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、ドアの開閉の途中に接近物検出を行ってよい。例えば、接近物検出装置20は、ドアセンサ12からドアが開いている角度を取得し、ドアの開閉の途中であることを検知し、接近物検出を行ってよい。また、接近物検出装置20は、ドアが開いている角度の変化を検出し、揺れ検出部22を動作させて接近物検出を行ってもよい。ドアの開閉の途中に揺れ検出部22を動作させて接近物検出を行うことで、ドアの開閉中であっても、揺れを補償した正確な接近物検知を行うことができる。
上記実施形態では、ドアが閉じた後における接近物検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、ドアの開閉の途中に接近物検出を行ってよい。例えば、接近物検出装置20は、ドアセンサ12からドアが開いている角度を取得し、ドアの開閉の途中であることを検知し、接近物検出を行ってよい。また、接近物検出装置20は、ドアが開いている角度の変化を検出し、揺れ検出部22を動作させて接近物検出を行ってもよい。ドアの開閉の途中に揺れ検出部22を動作させて接近物検出を行うことで、ドアの開閉中であっても、揺れを補償した正確な接近物検知を行うことができる。
(変形例5)
上記実施形態では、カメラ11を搭載した車両に接近する他車両の検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、任意の接近物を検出してよい。例えば、接近物検出装置20は、車両、人、犬等の動物を検出してよい。また、接近物検出装置20は、カメラ11を搭載した車両への接近物以外を検出してもよい。例えば、接近物検出装置20は、カメラ11等の映像撮影装置への接近物の接近、車両への接近物の接近、車両の搭乗者への接近物の接近を検出してよい。
上記実施形態では、カメラ11を搭載した車両に接近する他車両の検出について説明したが、本発明はこれに限定されない。接近物検出装置20は、任意の接近物を検出してよい。例えば、接近物検出装置20は、車両、人、犬等の動物を検出してよい。また、接近物検出装置20は、カメラ11を搭載した車両への接近物以外を検出してもよい。例えば、接近物検出装置20は、カメラ11等の映像撮影装置への接近物の接近、車両への接近物の接近、車両の搭乗者への接近物の接近を検出してよい。
(変形例6)
上記実施形態では、接近物検出装置20が車両に搭載される場合について説明したが、本発明はこれに限定されない。接近物検出装置20は、車両以外に搭載されても、取り付けられてもよい。また、接近物検出装置20は、カメラ11と離れた位置に配置されてもよい。例えば、カメラ11は、住宅の玄関等に取り付けられてもよい。また、その際、カメラ11は住宅の玄関等に取り付け、接近物検出装置20は住宅内部に配置してもよい。
上記実施形態では、接近物検出装置20が車両に搭載される場合について説明したが、本発明はこれに限定されない。接近物検出装置20は、車両以外に搭載されても、取り付けられてもよい。また、接近物検出装置20は、カメラ11と離れた位置に配置されてもよい。例えば、カメラ11は、住宅の玄関等に取り付けられてもよい。また、その際、カメラ11は住宅の玄関等に取り付け、接近物検出装置20は住宅内部に配置してもよい。
(変形例7)
上記実施形態では、接近物検出装置20の近傍の人等に通知する場合について説明したが、本発明はこれに限定されない。車両に搭載された接近物検出装置20は、通知部31を用いて、自車両に接近する他車両に対して警告を発してもよい。例えば、接近物検出装置20は、自車両に後退しながら接近する他車両に対して、音声で警告してもよい。本変形例では、他車両等に対して警告を行うことで、接近物検出装置20を搭載した車両の安全性を高めることができる。
上記実施形態では、接近物検出装置20の近傍の人等に通知する場合について説明したが、本発明はこれに限定されない。車両に搭載された接近物検出装置20は、通知部31を用いて、自車両に接近する他車両に対して警告を発してもよい。例えば、接近物検出装置20は、自車両に後退しながら接近する他車両に対して、音声で警告してもよい。本変形例では、他車両等に対して警告を行うことで、接近物検出装置20を搭載した車両の安全性を高めることができる。
(変形例8)
上記実施形態では、車両等が停止した状態での接近物検出について説明したが、本発明はこれに限定されない。車両に搭載された接近物検出装置20は、車両に搭載されたカメラ11を用いて、車両の徐行中に接近物検知をしてもよい。車両の徐行中とは、例えば、車両が時速10km以下で走行している間である。その際、揺れ検出部22は、揺れベクトルの検出を停止する条件として、例えば、走行速度が時速10kmを超えたことを入力される。
上記実施形態では、車両等が停止した状態での接近物検出について説明したが、本発明はこれに限定されない。車両に搭載された接近物検出装置20は、車両に搭載されたカメラ11を用いて、車両の徐行中に接近物検知をしてもよい。車両の徐行中とは、例えば、車両が時速10km以下で走行している間である。その際、揺れ検出部22は、揺れベクトルの検出を停止する条件として、例えば、走行速度が時速10kmを超えたことを入力される。
接近物検出装置20を搭載した車両の徐行中において、車両は、住宅地等の見通しが悪い場所を走行することが考えられる。このため、車両の徐行中に接近物検知を行うことで、事故の発生を防止することができる。
(変形例9)
また、上記実施の形態において、接近物検出装置20は、LSI(Large Scale Integration)などの半導体装置により個別に1チップ化されてもよいし、一部又は全部を含むように1チップ化されてもよい。ここでは、LSIとしたが、集積度の違いにより、IC(Integrated Circuit)、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、上記実施の形態において、接近物検出装置20は、LSI(Large Scale Integration)などの半導体装置により個別に1チップ化されてもよいし、一部又は全部を含むように1チップ化されてもよい。ここでは、LSIとしたが、集積度の違いにより、IC(Integrated Circuit)、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、接近物検出装置20により実行される処理の一部または全部は、プログラムにより実現されてもよい。そして、上記各実施の形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置(CPU)により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
また、上記実施の形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。
例えば、接近物検出装置20を、ソフトウェアにより実現する場合、図11に示したハードウェア構成(例えば、CPU、ROM、RAM、入力部、出力部等をバスBusにより接続したハードウェア構成)を用いて、各機能部をソフトウェア処理により実現するようにしてもよい。
また、上記実施の形態における処理方法の実行順序は、上記実施の形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で実行順序を入れ替えてもよい。
前述した方法をコンピュータに実行させるコンピュータプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここで、コンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、CD-ROM、MO、DVD、DVD-ROM、DVD-RAM、大容量DVD、次世代DVD、半導体メモリを挙げることができる。
以上、本発明の実施形態を説明したが、上述した実施形態は本発明を実施するための例示に過ぎない。よって、本発明は上述した実施形態に限定されることなく、その趣旨を逸脱しない範囲内で上述した実施の形態を適宜変形して実施することが可能である。
11 :カメラ
12 :ドアセンサ
101:車両
102、103、104、105、106、107、108、109、110、111 :物体
20 :接近物検出装置
200、201、202、203、204 :画像
21 :移動ベクトル検出部
22 :揺れ検出部
23 :時刻特定部
24 :接近物検出部
31 :通知部
Bus :バス
12 :ドアセンサ
101:車両
102、103、104、105、106、107、108、109、110、111 :物体
20 :接近物検出装置
200、201、202、203、204 :画像
21 :移動ベクトル検出部
22 :揺れ検出部
23 :時刻特定部
24 :接近物検出部
31 :通知部
Bus :バス
Claims (4)
- 接近する接近物を検出する接近物検出装置であって、
カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出部と、
前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出部と、
ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定部と、
前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出部と、
を備える接近物検出装置。 - 前記揺れ検出部は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルを検出し、
前記接近物検出部は、前記時刻特定部が特定したドアが閉まった時刻から所定の条件が満たされるまでの間、前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正する、
請求項1に記載の接近物検出装置。 - 前記揺れ検出部は、前記カメラの揺れベクトルの大きさが所定の値を超えると、前記接近物検出部による接近物の検出を停止させる、
請求項1又は2に記載の接近物検出装置。 - 接近する接近物を検出する接近物検出方法であって、
カメラによって撮影された第1撮影画像と、前記第1撮影画像が撮影された時刻よりも後の時刻に前記カメラによって撮影された第2撮影画像とを比較することによって、物体の移動ベクトルを検出する移動ベクトル検出工程と、
前記物体の移動ベクトルに基づいて、前記カメラの揺れベクトルを検出する揺れ検出工程と、
ドアが閉まっているか否かを示す開閉情報を取得し、取得した開閉情報に基づいて前記ドアが閉まった時刻を特定する時刻特定工程と、
前記ドアが閉まった時刻における前記カメラの揺れベクトルに基づいて前記物体の移動ベクトルを補正し、補正された前記物体の移動ベクトルに基づいて、前記接近物の位置を検出する接近物検出工程と、
を備える接近物検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018245056A JP7148390B2 (ja) | 2018-12-27 | 2018-12-27 | 接近物検出装置及び接近物検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018245056A JP7148390B2 (ja) | 2018-12-27 | 2018-12-27 | 接近物検出装置及び接近物検出方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020107064A JP2020107064A (ja) | 2020-07-09 |
JP7148390B2 true JP7148390B2 (ja) | 2022-10-05 |
Family
ID=71449125
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018245056A Active JP7148390B2 (ja) | 2018-12-27 | 2018-12-27 | 接近物検出装置及び接近物検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7148390B2 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012198857A (ja) | 2011-03-23 | 2012-10-18 | Denso It Laboratory Inc | 接近物体検知装置及び接近物体検知方法 |
JP2014146084A (ja) | 2013-01-28 | 2014-08-14 | Fujitsu Ten Ltd | 物体検出装置、物体検出システム及び物体検出方法 |
-
2018
- 2018-12-27 JP JP2018245056A patent/JP7148390B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012198857A (ja) | 2011-03-23 | 2012-10-18 | Denso It Laboratory Inc | 接近物体検知装置及び接近物体検知方法 |
JP2014146084A (ja) | 2013-01-28 | 2014-08-14 | Fujitsu Ten Ltd | 物体検出装置、物体検出システム及び物体検出方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2020107064A (ja) | 2020-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109151452B (zh) | 异常检测装置和车辆*** | |
US11688078B2 (en) | Video object detection | |
JP2018173760A (ja) | 映像記録装置および映像記録方法 | |
JP2010062942A (ja) | 異常検知装置 | |
WO2019068699A1 (en) | METHOD FOR CLASSIFYING AN OBJECT POINT AS STATIC OR DYNAMIC, DRIVER ASSISTANCE SYSTEM, AND MOTOR VEHICLE | |
JP7148390B2 (ja) | 接近物検出装置及び接近物検出方法 | |
EP4024333B1 (en) | Object detection device, object detection method, object detection program, learning device, learning method and learning program | |
US10970585B2 (en) | Adhering substance detection apparatus and adhering substance detection method | |
JP7213116B2 (ja) | 記録装置及び記録方法 | |
TW201536609A (zh) | 障礙物偵測裝置 | |
JP2005205930A (ja) | ドライブレコーダ装置 | |
JP2022143854A (ja) | 乗員状態判定装置および乗員状態判定方法 | |
JP7213119B2 (ja) | 記録装置 | |
JP5573220B2 (ja) | ドライブレコーダー装置、記録方法、プログラム及び記録媒体 | |
WO2020188788A1 (ja) | 覚醒度推定装置、自動運転支援装置および覚醒度推定方法 | |
WO2022157880A1 (ja) | 手検出装置、ジェスチャー認識装置および手検出方法 | |
JP2020194224A (ja) | 運転者判定装置、運転者判定方法、および運転者判定プログラム | |
KR20160095253A (ko) | 블랙박스 시스템에서 가속도 센서를 이용한 잘못 인식된 이벤트 영상 처리 방법 및 방법 | |
JP7185740B1 (ja) | 領域特定装置、領域特定方法及び領域特定プログラム | |
CN112507757B (en) | Vehicle behavior detection method, device and computer readable medium | |
CN115206130B (zh) | 一种车位检测方法、***、终端及存储介质 | |
JP7435082B2 (ja) | ドライブレコーダ、データ記録方法およびプログラム | |
JP6877501B2 (ja) | 滞留検知装置、滞留検知方法及び滞留検知プログラム | |
US11913889B2 (en) | Prediction device for predicting a growth direction of a crack in a subject and prediction method | |
US20230351631A1 (en) | Information processing apparatus, information processing method, and computer-readable recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210930 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220913 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220922 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7148390 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |