JP5471195B2 - 物体検出装置 - Google Patents

物体検出装置 Download PDF

Info

Publication number
JP5471195B2
JP5471195B2 JP2009203612A JP2009203612A JP5471195B2 JP 5471195 B2 JP5471195 B2 JP 5471195B2 JP 2009203612 A JP2009203612 A JP 2009203612A JP 2009203612 A JP2009203612 A JP 2009203612A JP 5471195 B2 JP5471195 B2 JP 5471195B2
Authority
JP
Japan
Prior art keywords
radar
target
image
target information
lateral width
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009203612A
Other languages
English (en)
Other versions
JP2011053139A (ja
Inventor
剛 名波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009203612A priority Critical patent/JP5471195B2/ja
Publication of JP2011053139A publication Critical patent/JP2011053139A/ja
Application granted granted Critical
Publication of JP5471195B2 publication Critical patent/JP5471195B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)

Description

本発明は、レーダ及びカメラによって取得される情報に基づいて物体を検出する物体検出装置に関する。
近年、PCS(Pre-crash safety system)等の衝突回避又は衝突による被害の低減の
ための安全システムが開発されている。このような安全システムを好適に実現させるためには、自車両以外の車両や障害物、歩行者等の位置及び大きさ、これらと自車との距離を正確に把握する必要がある。これらを把握するための技術として、レーダによって取得されるレーダ物標情報とカメラの画像から取得される画像物標情報とをフュージョンさせることで物体を検出する物体検出装置が知られている。
レーダによって取得されるレーダ物標情報によれば自車両と物標間の距離を算出することができる。しかしながら、レーダ物標情報からは物標の横位置や横幅を高精度で算出することが困難である。一方、カメラの画像から取得される画像物標情報によれば、レーダ物標情報よりも高い精度で物標の横位置や横幅を算出することができる。そのため、レーダ物標情報と画像物標情報とをフュージョンさせることで、物体の位置や大きさ、自車両との距離をより正確に把握することが可能となる。
特許文献1には、測距レーダと画像センサとのセンサフュージョンで認識した自車前方
の車外物標の横幅が長くなる程衝突回避制御の安全システムを介入し易くする車両の物体認識装置が開示されている。この特許文献1に係る物体認識装置においては、レーダを用いて得られた車外物標の横幅であるレーダ幅と画像センサを用いて得られた車外物標の横幅である画像幅とのうち短い方がセンサフュージョンの認識幅として選択される。
また、特許文献2及び3にも、レーダによって取得されるレーダ物標情報とカメラの画像から取得される画像物標情報とをフュージョンさせることで物体を認識又は検出する技術についての開示がある。
特開2006−240454号公報 特開2005−329779号公報 特開2006−266927号公報
物体検出装置においては、画像物標情報を取得するためのカメラとしてステレオカメラ又は単眼カメラを用いることができる。単眼カメラを用いた場合、ステレオカメラを用いた場合に比べてコストを低減することができる。しかしながら、単眼カメラの画像からは正確な奥行き方向の物標情報を取得することが困難である。そのため、単眼カメラの画像から取得された画像物標情報においては、実際には自車両から見て物標よりも奥に存在する物体又は模様が、物標と同一物体として認識される場合がある。この場合、物標の横幅が実際の幅よりも大きく検出される。
このような誤検出により、検出された物体が自車線上にはみ出していると判断されると、PCS等の安全システムの誤作動を招く虞がある。
本発明は、上記のような問題に鑑みてなされたものであって、レーダによって取得されるレーダ物標情報とカメラによって取得される画像物標情報とをフュージョンさせることで物体を検出する物体検出装置において、物体の検出精度をより向上させることが可能な技術を提供することを目的とする。
本発明は、レーダによって認識された物標の位置から、レーダの受信波の強度に応じて設定された所定の横幅の範囲内にある画像物標情報のみを用いて、レーダ物標情報と画像物標情報とをフュージョンさせるものである。
より詳しくは、本発明に係る物体検出装置は、
レーダによって取得されるレーダ物標情報と単眼カメラの画像から取得される画像物標情報とをフュージョンさせることで物体を検出する物体検出装置であって、
前記レーダによって認識された物標の位置と前記単眼カメラによって認識された物標の横端との間の横方向の距離が、前記レーダの受信波の強度に応じて設定された所定の横幅を超えている場合、その間の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせることを特徴とする。
レーダの受信波の強度は物標に応じて変化する。ここで、所定の横幅は、レーダの受信波の強度に対応する物標の横幅の最大値又はそれにある程度のマージンを加算した値として設定される。
本発明によれば、信頼性の低い部分を除いた画像物標情報がレーダ物標情報とフュージョンされる。これにより、物標の横幅が誤検出されることが抑制される。従って、物体の検出精度をより向上させることができる。
尚、レーダは物標を電磁波の反射点として認識するものであってもよい。また、単眼カメラは物標を画像として認識するものであってもよい。
本発明においては、レーダの受信波の強度が属する閾値レベル毎に前記所定の横幅が設定されてもよい。つまり、レーダの受信波の強度が第一の閾値以上の場合、前記所定の横幅が第一の所定の横幅に設定され、レーダの受信波の強度が第一の閾値より低く且つ第二の閾値以上の場合、前記所定の横幅が第一の所定の横幅よりも小さい第二の所定の横幅に設定されてもよい。これによれば、所定の横幅を、レーダによって認識された物標に応じた値として設定することができる。
上記の場合、第一の閾値を、物標が車両程度の大型の物体であることを想定して定められた値としてもよい。また、第二の閾値を、物標が人体程度の小型の物体であることを想定して定められた値としてもよい。
本発明によれば、物体の検出精度をより向上させることができる。その結果、PCS等の安全システムの誤作動を抑制することができる。
実施例に係るPCSの一部の概略構成を示すブロック図である。 実施例において、道路沿いに壁がある幅の狭い道路を車両が走行したときにおける壁の物標として認識のされ方を説明するための図である。 実施例に係るレーダ物標情報と画像物標情報とのフュージョンの方法を説明するための図である。 実施例に係るレーダ物標情報と画像物標情報とのフュージョンのフローを示すフローチャートである。
以下、本発明の具体的な実施形態について図面に基づいて説明する。本実施例に記載されている構成部品の寸法、材質、形状、その相対配置等は、特に記載がない限りは発明の技術的範囲をそれらのみに限定する趣旨のものではない。
(システムの概略構成)
ここでは、本発明に係る物体検出装置をPCSに適用した場合の実施例について説明する。図1は、本実施例に係るPCSの一部の概略構成を示すブロック図である。本実施例においては、PCS1が車両100に搭載されている。PCS1は、ミリ波レーダ2、単眼カメラ3、カメラECU4、PCS ECU5を備えている。また、PCS ECU5は、フュージョン演算部6、物理値演算部7及び衝突判定部8を有している。
PCS1は、ミリ波レーダ2及び単眼カメラ3によって取得した情報に基づいて自車両以外の車両や障害物、歩行者等を検出する。そして、これらの物体(歩行者含む)と衝突する可能性が高いと判断した場合、運転者へ警報を発信すると共に衝突被害低減制御を実施する。ここで、衝突被害低減制御としては、シートベルトの巻き取りやプリクラッシュブレーキによる衝突速度の低減等を例示することができる。
ミリ波レーダ2は、車両100の前側中央部に取り付けられている。ミリ波レーダ2は、車両100の前方及び斜め前方をミリ波帯の電磁波によって水平方向にスキャンすると共に車外の物体の表面で反射された電磁波を受信する。これにより、ミリ波レーダ2は物標を電磁波の反射点として認識する。さらに、ミリ波レーダ2は、ミリ波の送受信データから物標情報(レーダ物標情報)を取得する。ここでのレーダ物標情報は、物標の横位置、自車両100と物標間の距離及び自車両100と物標との相対速度である。該レーダ物標情報がカメラECU4及びPCS ECU5のフュージョン演算部6に入力される。
単眼カメラ3は、CCDカメラであって、車両100の前側中央部に取り付けられている。単眼カメラ3は、車両100の前方及び斜め前方の画像を撮影する。これにより、単眼カメラ3は物標を画像として認識する。単眼カメラ3によって撮影された画像は画像信号としてカメラECU4に入力される。カメラECU4は、入力された画像信号から物標情報(画像物標情報)を取得する。ここでの画像物標情報は、物標の横位置、物標の横幅及び高さである。該画像物標情報がPCS ECU5のフュージョン演算部6に入力される。
このとき、画像物標情報は、同一の物標についてのレーダ物標情報と関連付けられてフュージョン演算部6に入力される。ミリ波レーダ2によって認識された物標と単眼カメラ3によって認識された物標とが同一の物標であるか否かは、レーダ物標情報及び画像物標情報における物標の横位置等に基づいて判断される。例えば、ミリ波レーダ2によって認識された物標と単眼カメラ3によって認識された物標とが重なっている場合、両物標は同一であると判断される。
尚、ミリ波レーダ2及び単眼カメラ3の取り付け位置は車両の前側中央部に限られるものではない。例えば、これらを車両の後側に取り付けてもよい。
フュージョン演算部6は、ミリ波レーダ2から入力されたレーダ物標情報とカメラECU4から入力された画像物標情報とをフュージョンする。フュージョンの方法については
後述する。フュージョン演算部6による演算結果が物理値演算部7に入力される。
物理値演算部7は、フュージョン演算部6の演算結果に基づいて、物標の横位置、物標の横幅及び高さ、自車両100と物標間の距離及び自車両100と物標との相対速度を算出する。物理値演算部7による演算結果が衝突判定部8に入力される。
衝突判定部8は、物理値演算部7の演算結果に基づいて、自車両100と物標とが衝突する可能性が高いか否かを判別する。衝突判定部8によって自車両100と物標とが衝突する可能性が高いと判定された場合、PCS ECU5は、シートベルト巻き取り用アクチュエータやプリクラッシュブレーキアクチュエータ等(図示略)に制御信号を発信することで衝突被害低減制御を実施する。さらに、この場合、PCS ECU5は、運転者への警報装置(図示略)に警報ONの信号を発信する。
本実施例においては、ミリ波レーダ2、単眼カメラ3、カメラECU4、フュージョン演算部6及び物理値演算部7が本発明に係る物体検出装置を構成する。
(フュージョン方法)
以下、フュージョン演算部6における、ミリ波レーダ2から入力されたレーダ物標情報とカメラECU4から入力された画像物標情報とのフュージョンの方法について図2及び3に基づいて説明する。本実施例に係る画像物標情報は、単眼カメラ3の画像から取得される。しかし、単眼カメラ3の画像からは正確な奥行き方向の物標情報を取得することが困難である。そのため、単眼カメラ3の画像から取得された画像物標情報においては、実際には自車両100から見て物標よりも奥に存在する物体又は模様が、物標と同一物体として認識される場合がある。この場合、物標の横幅が実際の幅よりも大きく検出される。
ここで、ミリ波レーダ2によって電磁波の反射点として認識された物標をレーダ物標と称し、単眼カメラ3によって画像として認識された物標を画像物標と称する。例えば、図2に示すように、道路沿いに壁201がある幅の狭い道路200を車両100が走行したときに、ミリ波レーダ2によってA地点の壁がレーダ物標として認識されたとする。このとき、単眼カメラ3によってもA地点の壁が画像物標として認識される。しかしながら、単眼カメラ3によれば、A地点よりも奥の壁もA地点にあるものとして認識される場合がある。その結果、画像物標情報においては、A地点における壁の横幅が実際の幅よりも大きい値となる。
上記のように物標の横幅が実際の幅よりも大きいものとして誤検出された画像物標情報がレーダ物標情報とフュージョンされ、その結果に基づいて物体検出が行なわれると、検出された物体が自車線上にはみ出していると判断される(図2の場合、A地点の壁が自車線上にはみ出していると判断される。)。この場合、PCS1が誤作動する虞がある。
そこで、本実施例では、ミリ波レーダ2の受信波の強度に応じた所定の横幅を設定する。ミリ波レーダ2の受信波の強度は物標に応じて変化する。該所定の横幅は、ミリ波レーダ2の受信波の強度に対応する物標の横幅の最大値にある程度のマージンを加算した値として設定される。そして、ミリ波レーダ2によって認識されたレーダ物標の位置と単眼カメラ3によって認識された画像物標の横端との間の横方向の距離が所定の横幅を超えている場合、その間の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせる。
図3(1)は、ミリ波レーダ2及び単眼カメラ3によって実際に認識されたレーダ物標及び画像物標を表している。図3(2)は、フュージョン演算部6においてフュージョンされるレーダ物標及び画像物標を表している。
図3(1)においては、ミリ波レーダ2によって認識されたレーダ物標の位置と単眼カメラ3によって認識された画像物標の右横端との間の横方向の距離Liが所定の横幅αを超えている。この場合、画像物標におけるレーダ物標の位置より右側は誤検出である可能性が高い。そのため、図3(2)に示すように、レーダ物標の位置より右側の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせる。
上記のようなフュージョン方法によれば、信頼性の低い部分を除いた画像物標情報がレーダ物標情報とフュージョンされる。これにより、物標の横幅が誤検出されることが抑制される。その結果、PCS1の誤作動を抑制することができる。
(フュージョンのフロー)
本実施例に係るフュージョン演算部でのレーダ物標情報と画像物標情報とのフュージョンのフローについて図4に示すフローチャートに基づいて説明する。本フローはフュージョン演算部6において繰り返し実行されるフローである。
本フローでは、先ずステップS101において、レーダ物標情報及び画像物標情報が読み込まれる。
次に、ステップS102において、レーダ物標情報とフュージョン可能な画像物標情報があるか否かが判別される。つまり、ミリ波レーダ2によって認識された物標と同一の物標についての画像物標情報があるか否かが判別される。ステップS102において、肯定判定された場合、次にステップS103の処理が実行され、否定判定された場合、本フローの実行が一旦終了される。
ステップS103においては、ミリ波レーダ2の受信波の強度Irが所定の高閾値Ir1以上であるか否かが判別される。ここで、高閾値Ir1は、物標が車両程度の大型の物体であることを想定して定められた値である。例えば、高閾値Ir1は、車両が反射する反射波の強度の最小値として設定されてもよい。ステップS103において、肯定判定された場合、次にステップS104の処理が実行され、否定判定された場合、次にステップS107の処理が実行される。
ステップS104においては、ミリ波レーダ2によって認識されたレーダ物標の位置と単眼カメラ3によって認識された画像物標の横端との間の横方向の距離Liが第一の所定の横幅α1を超えているか否かが判別される。この判別は、画像物標の左右両端について行なわれる。
ここで、第一の所定の横幅α1は、高閾値Ir1に対応する物標、即ち車両程度の大型の物体の横幅の最大値にある程度のマージンを加算して設定された値である。高閾値Ir1が、車両が反射する反射波の強度の最小値として設定された場合、第一の所定の横幅α1は車両の横幅にマージンを加算した値(例えば、2m)として設定される。ステップS104において、肯定判定された場合、次にステップS105の処理が実行され、否定判定された場合、次にステップS106の処理が実行される。
ステップS105においては、レーダ物標の位置からの距離Liが第一の所定の横幅α1を超えていると判定された方の横端からレーダ物標の位置までの間の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせる。
ステップS106においては、左右両端間の画像物標情報(即ち、画像物標についての全ての画像物標情報)を用いてレーダ物標情報と画像物標情報とをフュージョンさせる。
一方、ステップS107においては、ミリ波レーダ2の受信波の強度Irが所定の低閾値Ir2以上であるか否かが判別される。ここで、低閾値Ir2は、物標が人体程度の小型の物体であることを想定して定められた値である。例えば、低閾値Ir2は、人体(歩行者)が反射する反射波の強度の最小値として設定されてもよい。ステップS107において、肯定判定された場合、次にステップS107の処理が実行され、否定判定された場合、本フローの実行が一旦終了される。
ステップS108においては、レーダ物標の位置と画像物標の横端との間の横方向の距離Liが、第一の所定の横幅α1よりも小さい第二の所定の横幅α2を超えているか否かが判別される。この判別は、画像物標の左右両端について行なわれる。
ここで、第二の所定の横幅α2は、低閾値Ir2に対応する物標、即ち人体程度の小型の物体の横幅の最大値にある程度のマージンを加算して設定された値である。低閾値Ir2が、人体が反射する反射波の強度の最小値として設定された場合、第二の所定の横幅α2は人体の横幅にマージンを加算した値(例えば、1m)として設定される。ステップS108において、肯定判定された場合、次にステップS109の処理が実行され、否定判定された場合、次にステップS110の処理が実行される。
ステップS109においては、レーダ物標の位置からの距離Liが第二の所定の横幅α2を超えていると判定された方の横端からレーダ物標の位置までの間の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせる。
ステップS110においては、左右両端間の画像物標情報(即ち、画像物標についての全ての画像物標情報)を用いてレーダ物標情報と画像物標情報とをフュージョンさせる。
上記のように、本実施例においては、物標が車両程度の大型の物体である場合と人体程度の小型の物体である場合とを区別して、画像物標情報の信頼性の判断基準となる所定の横幅が設定される。そのため、物標に応じた画像物標情報の信頼性の判断を行なうことができる。
本実施例では、ミリ波レーダ2の受信波の強度が属する閾値レベル(高閾値Ir1、低閾値Ir2)毎に第一及び第二の所定の横幅α1、α2を設定したが、ミリ波レーダ2の受信波の強度に応じて三つ以上の所定の横幅を設定してもよい。
1・・・PCS(Pre-crash safety system)
2・・・ミリ波レーダ
3・・・単眼カメラ
4・・・カメラECU
5・・・PCS ECU
6・・・フュージョン演算部
7・・・物理地演算部
8・・・衝突判定部
100・・車両
200・・道路
201・・壁

Claims (4)

  1. レーダによって取得されるレーダ物標情報と単眼カメラの画像から取得される画像物標情報とをフュージョンさせるフュージョン演算部を備え、フュージョン演算部による演算結果に基づいて物体を検出する物体検出装置であって、
    前記フュージョン演算部は、前記レーダによって認識された物標の位置と前記単眼カメラによって認識された物標の横端との間の横方向の距離が、前記レーダの受信波の強度に応じて設定された所定の横幅を超えている場合、その間の画像物標情報を用いずにレーダ物標情報と画像物標情報とをフュージョンさせることを特徴とする物体検出装置。
  2. 前記レーダは物標を電磁波の反射点として認識し、前記単眼カメラは物標を画像として認識することを特徴とする請求項1に記載の物体検出装置。
  3. 前記レーダの受信波の強度が第一の閾値以上の場合、前記所定の横幅が第一の所定の横幅に設定され、
    前記レーダの受信波の強度が前記第一の閾値より低く且つ第二の閾値以上の場合、前記所定の横幅が前記第一の所定の横幅よりも小さい第二の所定の横幅に設定されることを特徴とする請求項1又は2に記載の物体検出装置。
  4. 前記第一の閾値が、物標が車両程度の大型の物体であることを想定して定められた値であり、前記第二の閾値が、物標が人体程度の小型の物体であることを想定して定められた値であることを特徴とする請求項3に記載の物体検出装置。
JP2009203612A 2009-09-03 2009-09-03 物体検出装置 Active JP5471195B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009203612A JP5471195B2 (ja) 2009-09-03 2009-09-03 物体検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009203612A JP5471195B2 (ja) 2009-09-03 2009-09-03 物体検出装置

Publications (2)

Publication Number Publication Date
JP2011053139A JP2011053139A (ja) 2011-03-17
JP5471195B2 true JP5471195B2 (ja) 2014-04-16

Family

ID=43942298

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009203612A Active JP5471195B2 (ja) 2009-09-03 2009-09-03 物体検出装置

Country Status (1)

Country Link
JP (1) JP5471195B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5673568B2 (ja) * 2012-01-16 2015-02-18 トヨタ自動車株式会社 物体検出装置
JP5812064B2 (ja) 2012-11-22 2015-11-11 株式会社デンソー 物標検出装置
JP6380232B2 (ja) * 2015-05-19 2018-08-29 株式会社デンソー 物体検出装置、及び物体検出方法
JP6462630B2 (ja) 2016-05-24 2019-01-30 株式会社デンソー 物標検出装置
JP6855776B2 (ja) * 2016-12-16 2021-04-07 株式会社デンソー 物体検出装置、及び物体検出方法
JP6579144B2 (ja) * 2017-03-28 2019-09-25 株式会社Soken 障害物検知装置
CN111045000A (zh) * 2018-10-11 2020-04-21 阿里巴巴集团控股有限公司 监测***和方法
CN109946661A (zh) * 2019-04-26 2019-06-28 陕西师范大学 一种车载雷达数据处理算法验证***
CN111398961B (zh) * 2020-03-17 2022-07-15 北京百度网讯科技有限公司 用于检测障碍物的方法和装置
CN112162275B (zh) * 2020-09-29 2024-05-14 安徽江淮汽车集团股份有限公司 目标物识别方法、装置、设备及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4308405B2 (ja) * 2000-04-14 2009-08-05 富士通テン株式会社 物体検出装置
JP4518978B2 (ja) * 2005-03-02 2010-08-04 ダイハツ工業株式会社 車両の物体認識装置及び物体認識方法
JP4304517B2 (ja) * 2005-11-09 2009-07-29 トヨタ自動車株式会社 物体検出装置

Also Published As

Publication number Publication date
JP2011053139A (ja) 2011-03-17

Similar Documents

Publication Publication Date Title
JP5471195B2 (ja) 物体検出装置
JP4558758B2 (ja) 車両用障害物認識装置
JP4883246B2 (ja) 物体検出装置及び物体検出方法
CN107408345B (zh) 物标存在判定方法以及装置
CN106030336B (zh) 车辆周围状况识别设备和车辆控制设备
JP4396400B2 (ja) 障害物認識装置
US10854081B2 (en) Driving assistance device and driving assistance method
US11014566B2 (en) Object detection apparatus
CN107430822B (zh) 物体检测装置以及物体检测方法
JP5910046B2 (ja) 障害物検出装置
JP6361592B2 (ja) 車両制御装置
JP6855776B2 (ja) 物体検出装置、及び物体検出方法
WO2017104773A1 (ja) 移動体制御装置及び移動体制御方法
JP6380232B2 (ja) 物体検出装置、及び物体検出方法
WO2017111147A1 (ja) 走行支援装置及び走行支援方法
WO2011036807A1 (ja) 物体検出装置及び物体検出方法
JP6432538B2 (ja) 衝突予測装置
US10578714B2 (en) Vehicle control apparatus and vehicle control method
JP5655297B2 (ja) 物体検出装置、物体検出装置を備えた車両の安全システム
JP5083172B2 (ja) 衝突予測装置
WO2017094891A1 (ja) 物体検出装置及び物体検出方法
JP4118111B2 (ja) 危険障害物判定装置
JP2012064026A (ja) 車両用対象物検出装置、およびその方法
WO2014096244A1 (en) Driver assistance system for at least partially decelerating a motor vehicle, motor vehicle and corresponding method
JP4872517B2 (ja) 障害物認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130115

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140120

R151 Written notification of patent or utility model registration

Ref document number: 5471195

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151