JP6844568B2 - 余所見判定装置、余所見判定システム、余所見判定方法、プログラム - Google Patents

余所見判定装置、余所見判定システム、余所見判定方法、プログラム Download PDF

Info

Publication number
JP6844568B2
JP6844568B2 JP2018059161A JP2018059161A JP6844568B2 JP 6844568 B2 JP6844568 B2 JP 6844568B2 JP 2018059161 A JP2018059161 A JP 2018059161A JP 2018059161 A JP2018059161 A JP 2018059161A JP 6844568 B2 JP6844568 B2 JP 6844568B2
Authority
JP
Japan
Prior art keywords
extra
determined
face
condition range
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018059161A
Other languages
English (en)
Other versions
JP2019174885A (ja
Inventor
和樹 稲垣
和樹 稲垣
奈々 佐久間
奈々 佐久間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2018059161A priority Critical patent/JP6844568B2/ja
Priority to US17/040,789 priority patent/US11893806B2/en
Priority to PCT/JP2019/008088 priority patent/WO2019187979A1/ja
Publication of JP2019174885A publication Critical patent/JP2019174885A/ja
Application granted granted Critical
Publication of JP6844568B2 publication Critical patent/JP6844568B2/ja
Priority to US18/539,343 priority patent/US20240112475A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/225Direction of gaze
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Analysis (AREA)

Description

本発明は、余所見判定装置、余所見判定システム、余所見判定方法、プログラムに関する。
車等の移動体を操作する運転者の余所見を検知する技術が特許文献1に開示されている。
国際公開第2016/052507号
上述のような運転時の余所見を判定する技術では撮影画像に映る顔の視線に基づいて余所見の検知を行う。しかしながら撮影画像に顔が映っていない場合にはそもそも余所見判定を行っておらず、顔が映っていない場合でも運転状況に応じて適切に余所見判定を行うことが求められている。
そこでこの発明は、上述の課題を解決する余所見判定装置、余所見判定システム、余所見判定方法、プログラムを提供することを目的としている。
本発明の第1の態様によれば、余所見判定装置は、撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定することを特徴とする。
本発明の第2の態様によれば、撮影装置と余所見判定装置とを備えた余所見判定システムは、前記余所見判定装置が、撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定することを特徴とする。
本発明の第3の態様によれば、余所見判定方法は、撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定することを特徴とする。
本発明の第4の態様によれば、プログラムは、余所見判定装置のコンピュータを、撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する手段として機能させることを特徴とする。
本発明によれば、撮影画像に基づいて顔が映っていないと判定された場合に運転状況に応じて余所見であるか否かを判定することができる。
本実施形態による運転状況監視システムを示す図である。 本実施形態による余所見判定装置のハードウェア構成図である。 本実施形態による余所見判定装置の機能ブロック図である。 本実施形態によるドライブレコーダのハードウェア構成を示す図である。 本実施形態によるドライブレコーダの制御装置の機能ブロック図である。 本実施形態によるドライブレコーダの処理フローを示す図である。 本実施形態による余所見判定装置の処理フローを示す図である。 本実施形態による余所見判定装置において余所見判定するための顔方向又は視線方向の条件範囲の一例を示す図である。 本実施形態による余所見判定装置の最小構成を示す図である。
以下、本発明の一実施形態による余所見判定装置を図面を参照して説明する。
図1は同実施形態による運転状況監視システムを示す図である。
図1で示すように運転状況監視システム100は余所見判定装置1と、運転状況センシング装置の一態様であるドライブレコーダ2と含んで構成される。余所見判定装置1とドライブレコーダ2とは無線通信ネットワークや有線通信ネットワークを介して接続される。ドライブレコーダ2は一例としては車両に設けられている。余所見判定装置1は市中を走る複数の車両にそれぞれ設置されたドライブレコーダ2と通信接続する。
図2は余所見判定装置のハードウェア構成図である。
この図が示すように余所見判定装置1はCPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、データベース104、通信モジュール105等の各ハードウェアを備えたコンピュータである。
図3は余所見判定装置の機能ブロック図である。
余所見判定装置1は電源が投入されると起動し、予め記憶する余所見判定プログラムを実行する。これにより余所見判定装置1には、制御部11、情報取得部12、余所見開始判定部13、余所見判定部14、判定結果出力部15、を少なくとも備える。
制御部11は他の機能部を制御する。
情報取得部12は撮影画像、車両情報、天候情報、加速度情報などのドライブレコーダ2から送信された情報を取得する。
余所見開始判定部13は余所見判定を開始するかを判定する。
余所見判定部14は撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、顔が検出できない場合には、余所見状態と判定する。また余所見判定部14は撮影画像に基づいて顔方向が所定の条件範囲か否かを判定し、顔方向が、運転状況情報に基づいて決定した所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する。また余所見判定部14は撮影画像に基づいて視線方向が所定の条件範囲か否かを判定し、視線方向が、運転状況情報に基づいて決定した所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する。また余所見判定部14は運転状況情報が右方向に進路を変更することを示す場合、条件範囲を右方向に拡張した条件範囲を決定する。また余所見判定部14は運転状況情報が左方向に進路を変更することを示す場合、条件範囲を左方向に拡張した条件範囲を決定する。
判定結果出力部15は余所見判定結果を出力する。
図4はドライブレコーダのハードウェア構成を示す図である。
ドライブレコーダ2は、加速度センサ21、通信装置22、カメラ23、制御装置24、記憶装置25などを含んで構成される。加速度センサ21は車両の加速度を検知する。通信装置22は余所見判定装置1と通信接続する。カメラ23は車両の外部や内部を撮影して動画像、静止画像を生成する。
制御装置24はドライブレコーダ2の各機能を制御する。記憶装置25は動画像、静止画像、加速度センサ21で検知した加速度やその他のドライブレコーダ2の外部から取得した情報等を記憶する。ドライブレコーダ2は基地局等を介して余所見判定装置1と通信接続する。なおドライブレコーダ2の制御装置24は、CPU、ROM、RAM等を備えたコンピュータである。
図5はドライブレコーダに備わる制御装置の機能ブロック図である。
制御装置24はドライブレコーダが起動すると制御プログラムを実行する。これにより制御装置24には、車両情報取得部241、天候情報取得部242、加速度情報取得部243、撮影画像取得部244、運転状況データ送信部245、撮影画像送信部246の各機能部が備わる。
図6はドライブレコーダの処理フローを示す図である。
次に運転状況監視システムの処理フローについて順を追って説明する。
まずドライブレコーダ2における運転状況情報の送信処理について説明する。
車両の電気系統が起動するとドライブレコーダ2が動作を始動する(ステップS101)。ドライブレコーダ2の加速度センサ21はドライブレコーダ2の始動後に車両の加速度のセンシングを開始する(ステップS102)。またカメラ23は車内および車外の撮影を開始する(ステップS103)。なおカメラ23は車内側レンズと車外側レンズを備える。カメラ23は車内側レンズを用いて車内を車内の運転者の顔の方向の対象物を撮影する。カメラ23は車外側レンズを用いて車外の進行方向の対象物を撮影する。
そしてドライブレコーダ2の動作中、制御装置24の車両情報取得部241は車両情報を取得する(ステップS104)。車両情報取得部241が取得する車両情報は車両に備わる各センサによって検出された車速、ハンドル角度、ウィンカー指示方向などであってよい。また天候情報取得部242は天候情報を取得する(ステップS105)。天候情報は気象庁や天候情報提供企業に備わるサーバ装置から取得してもよい。または天候情報は車両に備わるセンサ(ワイパー動作検出器や雨滴検出器)などからえられる情報であってよい。制御装置24は、ワイパーが動作している場合、雨滴検出器が雨滴を検出している場合には雨天であると判定してよい。加速度情報取得部243は、加速度センサ21から所定の時間間隔で加速度を取得する(ステップS106)。制御装置24は車両情報、天候情報、加速度を所定の間隔で取得する。
運転状況データ送信部245は所定の間隔で車両情報、天候情報、加速度情報を余所見判定装置1へ送信するよう通信装置22に指示する。通信装置22は車両情報、天候情報、加速度情報を余所見判定装置1へ送信する(ステップS107)。撮影画像送信部246は撮影画像を余所見判定装置1へ送信するよう通信装置22に指示する。通信装置22は撮影画像を余所見判定装置1へ送信する(ステップS108)。制御装置24は処理終了かを判定し(ステップS109)、処理終了までステップS102からの処理を繰り返す。車両情報、天候情報、加速度情報、撮影画像には、ドライブレコーダ2のID、運転者のID、センシング時刻が付与されてよい。なお上述の処理において加速度や、天候情報を送信しているが、車両情報のみで余所見判定を行う場合には、それらの情報を送信しなくてもよい。また車両情報に加えて現在の位置情報や周辺の地図情報やナビゲーションシステムの経路案内に関する経路案内情報等の他の情報を送信してもよい。
図7は余所見判定装置の処理フローを示す図である。
余所見判定装置1において情報取得部12はドライブレコーダ2のID、運転者のIDに基づいて、対応する車両情報、天候情報、加速度情報、撮影画像の組を、当該各IDに紐づけて順次データベース104へ記録する(ステップS201)。そして制御部11は余所見判定処理を行うよう余所見開始判定部13、余所見判定部14に指示する。
余所見開始判定部13はある一つのドライブレコーダ2を特定し、そのIDに紐づいて記録されているセンシング時刻、車両情報、天候情報、加速度情報、撮影画像を取得する。余所見判定部14は車両情報に含まれる車速が前方方向の速度(前進)を示し、かつ所定の速度以上であるかを判定する(ステップS202)。所定の速度は一例としては20km/hなど値であてよい。余所見判定部14は車速が前進を示し、所定の速度以上である場合に余所見判定を開始すると決定する。
余所見開始判定部13は他の情報を利用して、または他の情報を追加で利用して余所見判定を開始すると決定してもよい。例えば、余所見判定部14は加速度が0以上かを判定して、加速度が0以上である場合に余所見判定を開始すると決定してもよい。また余所見判定部14は天候情報が雨を示す場合に余所見判定を開始すると決定してもよい。余所見判定部14は車外の撮影画像に基づいて余所見判定を開始すると決定してもよい。例えば、撮影画像の直進方向に対象物が映る場合、撮影画像に車線のカーブが映る場合、余所見判定を開始すると決定してよい。余所見判定部14は余所見判定を開始すると決定すると、余所見判定部14は開始を指示する。余所見判定部14は余所見判定を開始するかどうかの判定処理を所定の間隔で繰り返す。
余所見判定部14は車両情報に基づいて運転状況情報を取得する(ステップS203)。運転状況情報は運転時の状況を示す情報であって、車速、走行状態を少なくとも含む。走行状態は車両の走行状態を示し、前進、右左折、車線変更又はカーブ走行等がある。例えば余所見判定部14はウィンカー指示が方向指示をしておらず、ハンドル角度が所定の範囲(例えば直進方向を基準とする左右10度など)内である場合に走行状態が前進であると判定する。また余所見判定部14はウィンカー指示が左方向を指示しており、ハンドル角度が所定の範囲(例えば直進方向を基準とする左10度以上など)内である場合に走行状態が左折であると判定する。また余所見判定部14はウィンカー指示が右方向を指示しており、ハンドル角度が所定の範囲(例えば直進方向を基準とする右10度以上など)内である場合に走行状態が右折であると判定する。また余所見判定部14はウィンカー指示が左方向を指示しており、ハンドル角度が所定の範囲(例えば直進方向を基準とする左右10度など)内である場合に走行状態が左への車線変更であると判定する。また余所見判定部14はウィンカー指示が右方向を指示しており、ハンドル角度が所定の範囲(例えば直進方向を基準とする左右10度など)内である場合に走行状態が右への車線変更であると判定する。また余所見判定部14はウィンカー指示が方向指示をしておらず、ハンドル角度が所定の範囲(例えば直進方向を基準とする左10度以上など)内である場合に走行状態が左カーブ走行であると判定する。また余所見判定部14はウィンカー指示が方向指示をしておらず、ハンドル角度が所定の範囲(例えば直進方向を基準とする右10度以上など)内である場合に走行状態が右カーブ走行であると判定する。
なお余所見判定部14は他の情報を利用して、または他の情報を追加で利用して走行状態を判定してもよい。例えば余所見判定部14はドライブレコーダ2から運転時の位置情報を取得している場合には、運転時の位置の地図情報に基づいて走行状態を判定してもよい。また余所見判定部14はドライブレコーダ2からナビゲーションシステムの経路案内情報を取得している場合には、経路案内情報に基づいて走行状態を判定してもよい。
余所見判定部14は現在の処理対象のドライブレコーダ2のIDに基づいて情報取得部12の既に取得している撮影画像を当該情報取得部12から入力する。余所見判定部14は余所見判定を開始すると決定した場合、所定の間隔でドライブレコーダ2から受信する撮影画像を順次読み取る。
余所見判定部14は撮影画像を読み取ると、余所見判定を続けることが出来る程度に撮影画像に顔が映っているかを判定する顔検出処理を行う。余所見判定部14は新たに取得した撮影画像内に顔を検出できるかを判定する(ステップS204)。余所見判定部14は新たに取得した撮影画像内に顔を検出した場合次の顔方向検出処理を行う。余所見判定部14は新たに取得した撮影画像内に顔を検出できない場合、新たに取得した撮影画像のセンシング時刻を基準として過去の所定期間までの間のセンシング時刻の撮影画像について、運転状況情報に基づいて特定した所定割合以上の回数で顔が映っていないかを判定する(ステップS205)。余所見判定部14は運転状況情報に基づいて所定割合を特定する。例えば余所見判定部14は走行状態が右左折、車線変更又はカーブ走行である場合には、走行状態が前進であるときより当該所定割合の値を低くする。余所見判定部14は、所定期間の間に取得した撮影画像について、所定割合以上の回数で顔が映っていない場合、余所見をしていると判定する(ステップS206)。余所見判定部14は、所定期間の間に取得した撮影画像について、顔が映っていない回数が所定割合未満の場合、余所見と判定せずに、余所見判定を開始するかを判定する処理に戻る。
上述の顔検出処理において余所見判定部14は、運転者が眼鏡やマスクをかけている場合、余所見判定を続けることが出来る程度に撮影画像に顔が映っていないと判定されてもよい。この場合、余所見判定部14は処理を終了すると判定してもよい。
余所見判定部14は顔方向検出処理において、運転状況情報に基づいて余所見判定するための顔方向の条件範囲を決定する(ステップS207)。図8は余所見判定装置において余所見判定するための顔方向又は視線方向の条件範囲の一例を示す図である。例えば余所見判定部14は走行状態が前進である場合には、運転者Dに対し直進方向を基準として左右α度(例えば10度)の範囲を条件範囲と決定する(図8(A)参照)。また余所見判定部14は走行状態が右折、右への車線変更又は右カーブ走行等の右方向に進路を変更することを示す場合には、前進時の条件範囲を運転者Dに対し右方向にβ度拡張した条件範囲を決定する(図8(B)参照)。また余所見判定部14は走行状態が左折、左への車線変更又は左カーブ走行等の左方向に進路を変更することを示す場合には、前進時の条件範囲を運転者Dに対し左方向にβ度拡張した条件範囲を決定する(図8(C)参照)。β度は右左折時と車線変更時とカーブ走行時とでそれぞれ異なる値であってもよい。また余所見判定部14は現在の車速に基づいて条件範囲の広さを変更してもよい。例えば余所見判定部14は速度が低速の場合には、運転者が広い範囲を目視する可能性が高くなるため、直進方向を基準とする幅を更に左右10度拡張するなどと広げるようにしてもよい。
余所見判定部14は新たに取得した撮影画像内の顔方向が決定した所定の条件範囲内かを判定する(ステップS208)。余所見判定部14は新たに取得した撮影画像内の顔方向が所定の条件範囲内である場合、視線方向検出処理を行う。余所見判定部14は新たに取得した撮影画像内の顔方向が所定の条件範囲内でない場合、新たに取得した撮影画像のセンシング時刻を基準として過去の所定期間までの間の撮影画像の余所見判定結果を取得する。余所見判定部14はそれら判定結果について、顔が直進方向を基準とする所定の条件範囲内となる回数が運転状況情報に基づいて特定した所定割合以上かを判定する(ステップS209)。余所見判定部14は、所定期間の間に取得した撮影画像について、顔が直進方向を基準とする所定の条件範囲内となる回数が所定割合以上でない場合、余所見をしていると判定する(ステップS210)。余所見判定部14は、顔が直進方向を基準とする所定の条件範囲内となる回数が所定割合以上かを判定する処理において当該所定割合の値を運転状況情報に応じて変動させる。例えば余所見判定部14は走行状態が右左折、車線変更又はカーブ走行である場合には、走行状態が前進であるときより当該所定割合の値を低くする。また余所見判定部14は、当該所定割合の値を速度が低下するほど減少させる。これにより車両が低速の場合には、広範囲を目視する可能性が高いが、広範囲を目視したとした場合でも余所見判定とされず運転者に対する必要以上の余所見アラートの出力を削減することができる。
余所見判定部14は視線方向検出処理において、運転状況情報に基づいて余所見判定するための視線方向の条件範囲を決定する(ステップS211)。例えば余所見判定部14は走行状態が前進である場合には、直進方向を基準として左右α度(例えば10度)の範囲を条件範囲と決定する。また余所見判定部14は走行状態が右折、右への車線変更又は右カーブ走行等の右方向に進路を変更することを示す場合には、前進時の条件範囲を右方向にβ度拡張した条件範囲を決定する。また余所見判定部14は走行状態が左折、左への車線変更又は左カーブ走行等の左方向に進路を変更することを示す場合には、前進時の条件範囲を左方向にβ度拡張した条件範囲を決定する。β度は右左折時と車線変更時とカーブ走行時とでそれぞれ異なる値であってもよい。また余所見判定部14は現在の車速に基づいて条件範囲の広さを変更してもよい。例えば余所見判定部14は速度が低速の場合には、運転者が広い範囲を目視する可能性が高くなるため、直進方向を基準とする幅を更に左右10度拡張するなどと広げるようにしてもよい。
余所見判定部14は新たに取得した撮影画像内の視線方向が決定した所定の条件範囲内かを判定する(ステップS212)。余所見判定部14は新たに取得した撮影画像内の視線方向が所定の条件範囲内である場合、余所見と判定せずに、余所見判定を開始するかを判定する処理に戻る。余所見判定部14は新たに取得した撮影画像内の視線方向が所定の条件範囲内でない場合、新たに取得した撮影画像のセンシング時刻を基準として過去の所定期間までの間の撮影画像の余所見判定結果を取得する。余所見判定部14はそれら判定結果について、視線が直進方向を基準とする所定の条件範囲内となる回数が運転状況情報に基づいて特定した所定割合以上かを判定する(ステップS213)。余所見判定部14は、所定期間の間に取得した撮影画像について、視線が直進方向を基準とする所定の条件範囲内となる回数が所定割合以上でない場合、余所見をしていると判定する(ステップS214)。余所見判定部14は、視線が直進方向を基準とする所定の条件範囲内となる回数が所定割合以上かを判定する処理において当該所定割合の値を運転状況情報に応じて変動させる。例えば余所見判定部14は走行状態が右左折、車線変更又はカーブ走行である場合には、走行状態が前進であるときより当該所定割合の値を低くする。また余所見判定部14は、当該所定割合の値を速度が低下するほど減少させる。これにより車両が低速の場合には、広範囲を目視する可能性が高いが、広範囲を目視したとした場合でも余所見判定とされず運転者に対する必要以上の余所見アラートの出力を削減することができる。
余所見判定部14は余所見が行われていると判定した場合には、判定結果出力部15へ余所見判定結果を出力するよう指示する。判定結果出力部15は余所見が行われていると判定したドライブレコーダ2のIDを取得する。判定結果出力部15はドライブレコーダ2のIDに基づいてその送信先となるネットワークアドレスをデータベース104から取得する。送信先のネットワークアドレスは予めデータベース104に記録されているものとする。判定結果出力部15は当該送信先に余所見検知を示す情報を送信する(ステップS215)。判定結果出力部15は余所見検知を示す情報を、ドライブレコーダ2のIDや運転者のIDに紐づけてデータベース104に記録してもよい。余所見判定部14は終了するかを判定する(ステップS216)。終了しない場合、余所見判定装置1は次にドライブレコーダ2から受信した処理を用いて同様の処理を所定間隔で繰り返す。
ドライブレコーダ2は余所見検知の情報を受信する。ドライブレコーダ2は余所見検知の情報を受信すると、アラーム音を発信するなど、余所見検知を運転者に知らせる処理を行う。これにより運転者は余所見運転を認識することができる。
上述の処理においてはクラウドサーバとして通信ネットワークに接続された余所見判定装置1が余所見判定を行っている。しかしながら上述の余所見判定の処理はドライブレコーダ2が単独で行うようにしてもよい。つまりドライブレコーダ2が余所見判定装置1として動作してもよい。この場合、ドライブレコーダ2が上述の情報取得部12、余所見開始判定部13、余所見判定部14、判定結果出力部15と同様の処理を行うようにしてもよい。またはドライブレコーダ2と接続された車内に搭載されている車載器が情報取得部12、余所見開始判定部13、余所見判定部14、判定結果出力部15の処理を備えてもよい。この場合、車載器が余所見判定装置1として動作する。この場合、車載器の情報取得部12、余所見開始判定部13、余所見判定部14、判定結果出力部15と同様の処理を行う。
上述の処理によれば顔の方向や視線の方向が検知できない場合でも顔が検出できたかどうかで余所見検知を行うことができる。
また上述の処理によれば顔方向や視線方向が少しずれただけで余所見検知アラートをすることはなく、所定期間内において所定割合で顔方向や視線方向がずれた場合に余所見検知アラートを出力する。これにより運転者に対する不要な余所見検知アラートの出力を削減することができる。
また上述の余所見判定装置1によれば、低速での運転などの所定の速度以下など視線方向が前方から離れるような場合に余所見であると判定されてしまうことを回避する。これにより運転者に対する不要な余所見検知アラートの出力を削減することができる。
また上述の処理によれば余所見判定装置1は車両の速度低下に応じて余所見判定の可能性があると判定する場合の直進方向を基準とする範囲を広げる処理を行うことで、速度に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
また上述の処理によれば余所見判定装置1は視線が直進方向を基準とする所定範囲内となる回数が所定割合以上かを判定する処理において速度が低下するほど当該所定割合の値を減少させる。これにより速度に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
また上述の処理によれば余所見判定装置1は顔が検出できた回数が所定割合以上かを判定する処理において運転状況情報に基づいて所定割合の値を特定する。これにより前進時のみならず、右左折時や車線変更時やカーブ走行時にも余所見判定することができ、運転状況に応じた適切な余所見判定を行うことができる。
また上述の処理によれば余所見判定装置1は顔方向又は視線方向が直進方向を基準とする所定の条件範囲内であるかを判定する処理において当該所定の条件範囲を運転状況情報に基づいて決定する。これにより運転状況に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
また上述の処理によれば余所見判定装置1は顔方向又は視線方向が直進方向を基準とする所定の条件範囲内となる回数が所定割合以上かを判定する処理において運転状況情報に基づいて当該所定割合の値を決定する。これにより運転状況に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
なお同実施形態では、余所見判定装置1は顔方向及び視線方向の条件範囲を右方向に進路を変更する場合には右方向に拡張し、左方向に進路を変更する場合には左方向に拡張しているが、これに限らず、条件範囲を左右いずれかの方向にずらすようにしてもよい。例えば余所見判定装置1は右方向に進路を変更する場合には条件範囲を右方向にずらし、左方向に進路を変更する場合には条件範囲を左方向にずらすようにしてもよい。
図9は余所見判定装置の最小構成を示す図である。
余所見判定装置1は少なくとも余所見判定部14を備えればよい。余所見判定部14は撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、顔が検出できない場合には、余所見状態と判定する。
上述の余所見判定装置1およびドライブレコーダ2は内部に、コンピュータシステムを有している。そして、上述した各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
1・・・余所見判定装置
2・・・ドライブレコーダ
11・・・制御部
12・・・情報取得部
13・・・余所見開始判定部
14・・・余所見判定部
15・・・判定結果出力部
21・・・加速度センサ
23・・・カメラ
24・・・制御装置
241・・・車両情報取得部
242・・・天候情報取得部
223・・・加速度情報取得部
244・・・撮影画像取得部
245・・・運転状況データ送信部
246・・・撮影画像送信部

Claims (8)

  1. 撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、
    前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、
    前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する
    余所見判定装置。
  2. 運転対象の移動体のドライブレコーダが取得したセンシング情報に基づいて余所見判定を開始すると決定した場合に、前記余所見状態であるかを判定する
    請求項1に記載の余所見判定装置。
  3. 前記移動体が前進しかつ所定速度以上である場合、
    前記移動体の加速度が0以上でる場合、
    取得した天候情報が所定の天候を示す場合、
    取得した撮影画像に基づいて直進方向に対象物が映る場合、
    取得した撮影画像に基づいてカーブが映る場合、
    の少なくとも一つの場合に前記余所見判定を開始すると決定する
    請求項2に記載の余所見判定装置。
  4. 前記運転状況情報が右方向に進路を変更することを示す場合、前記条件範囲を右方向に拡張した前記条件範囲を決定する
    請求項1から請求項3の何れか一項に記載の余所見判定装置。
  5. 前記運転状況情報が左方向に進路を変更することを示す場合、前記条件範囲を左方向に拡張した前記条件範囲を決定する
    請求項1から請求項4の何れか一項に記載の余所見判定装置。
  6. 撮影装置と余所見判定装置とを備えた余所見判定システムであって、
    前記余所見判定装置が、
    撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、
    前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、
    前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する
    余所見判定システム。
  7. 撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、
    前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、
    前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する
    余所見判定方法。
  8. 余所見判定装置のコンピュータを、
    撮影画像に基づいて顔が検出できたか否かを判定し、運転時に取得した運転状況情報に基づいて特定した単位時間当たりの所定割合以上、前記顔が検出できない場合には、余所見状態と判定し、
    前記顔が検出できた場合に、前記撮影画像に基づいて顔方向が進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が前記進行方向を基準とする所定の条件範囲であると判定した場合に、前記撮影画像に基づいて視線方向が前記進行方向を基準とする所定の条件範囲か否かを判定し、
    前記顔方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定し、
    前記視線方向が、前記運転状況情報に基づいて決定した前記進行方向を基準とする所定の条件範囲内でない時間が単位時間当たりに所定割合以上である場合には余所見状態と判定する手段
    として機能させるプログラム。
JP2018059161A 2018-03-27 2018-03-27 余所見判定装置、余所見判定システム、余所見判定方法、プログラム Active JP6844568B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018059161A JP6844568B2 (ja) 2018-03-27 2018-03-27 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
US17/040,789 US11893806B2 (en) 2018-03-27 2019-03-01 Looking away determination device, looking away determination system, looking away determination method, and storage medium
PCT/JP2019/008088 WO2019187979A1 (ja) 2018-03-27 2019-03-01 余所見判定装置、余所見判定システム、余所見判定方法、記憶媒体
US18/539,343 US20240112475A1 (en) 2018-03-27 2023-12-14 Looking away determination device, looking away determination system, looking away determination method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018059161A JP6844568B2 (ja) 2018-03-27 2018-03-27 余所見判定装置、余所見判定システム、余所見判定方法、プログラム

Publications (2)

Publication Number Publication Date
JP2019174885A JP2019174885A (ja) 2019-10-10
JP6844568B2 true JP6844568B2 (ja) 2021-03-17

Family

ID=68061470

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018059161A Active JP6844568B2 (ja) 2018-03-27 2018-03-27 余所見判定装置、余所見判定システム、余所見判定方法、プログラム

Country Status (3)

Country Link
US (2) US11893806B2 (ja)
JP (1) JP6844568B2 (ja)
WO (1) WO2019187979A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6947099B2 (ja) * 2018-03-27 2021-10-13 日本電気株式会社 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP7187169B2 (ja) * 2018-04-23 2022-12-12 フォルシアクラリオン・エレクトロニクス株式会社 情報処理装置及び情報処理方法
JP7380380B2 (ja) * 2020-03-26 2023-11-15 いすゞ自動車株式会社 運転支援装置
JP2022155703A (ja) * 2021-03-31 2022-10-14 本田技研工業株式会社 脇見判定装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005108033A (ja) * 2003-09-30 2005-04-21 Toshiba Corp 運転者状況判定装置および運転者状況判定方法
JP2006350697A (ja) * 2005-06-16 2006-12-28 Toyota Motor Corp 車両の安全運転支援装置
JP4725254B2 (ja) * 2005-09-05 2011-07-13 トヨタ自動車株式会社 脇見判定装置
WO2007105792A1 (ja) * 2006-03-15 2007-09-20 Omron Corporation 監視装置および監視方法、制御装置および制御方法、並びにプログラム
JP4811259B2 (ja) * 2006-12-11 2011-11-09 日産自動車株式会社 視線方向推定装置及び視線方向推定方法
US8442490B2 (en) * 2009-11-04 2013-05-14 Jeffrey T. Haley Modify function of driver's phone during acceleration or braking
US20160191995A1 (en) * 2011-09-30 2016-06-30 Affectiva, Inc. Image analysis for attendance query evaluation
US20190034706A1 (en) * 2010-06-07 2019-01-31 Affectiva, Inc. Facial tracking with classifiers for query evaluation
JP6292054B2 (ja) * 2013-11-29 2018-03-14 富士通株式会社 運転支援装置、方法、及びプログラム
US11360107B1 (en) * 2014-02-25 2022-06-14 Labrador Diagnostics Llc Systems and methods for sample handling
US9639231B2 (en) * 2014-03-17 2017-05-02 Google Inc. Adjusting information depth based on user's attention
WO2015164584A1 (en) * 2014-04-23 2015-10-29 Google Inc. User interface control using gaze tracking
KR102051142B1 (ko) * 2014-06-13 2019-12-02 현대모비스 주식회사 차량용 운전자 위험 지수 관리 시스템 및 그 방법
JP6372388B2 (ja) * 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
JP6432948B2 (ja) 2014-09-30 2018-12-05 エイディシーテクノロジー株式会社 自動運転制御装置
WO2017018012A1 (ja) * 2015-07-28 2017-02-02 ソニー株式会社 情報処理システム、情報処理方法、および記録媒体
GB201520398D0 (en) * 2015-11-19 2016-01-06 Realeyes Oü Method and apparatus for immediate prediction of performance of media content
JP2017199302A (ja) * 2016-04-28 2017-11-02 パナソニックIpマネジメント株式会社 判定装置、判定方法、判定プログラム及び記録媒体
WO2017208529A1 (ja) * 2016-06-02 2017-12-07 オムロン株式会社 運転者状態推定装置、運転者状態推定システム、運転者状態推定方法、運転者状態推定プログラム、対象者状態推定装置、対象者状態推定方法、対象者状態推定プログラム、および記録媒体
US11311210B2 (en) * 2016-07-14 2022-04-26 Brightday Technologies, Inc. Posture analysis systems and methods
WO2018070139A1 (ja) * 2016-10-11 2018-04-19 株式会社デンソー 運転車両の防曇部を制御する車両用制御装置、車両用制御装置に用いられるプログラム
US10246014B2 (en) * 2016-11-07 2019-04-02 Nauto, Inc. System and method for driver distraction determination
US20190371189A1 (en) * 2016-11-24 2019-12-05 Gaia System Solutions Inc. Engagement measurement system
CN110268455B (zh) * 2017-02-15 2022-12-09 三菱电机株式会社 驾驶状态判定装置及驾驶状态判定方法
JP6686959B2 (ja) * 2017-04-11 2020-04-22 株式会社デンソー 車両用報知装置
EP4155988A1 (en) * 2017-09-09 2023-03-29 Apple Inc. Implementation of biometric authentication for performing a respective function
JP6915502B2 (ja) * 2017-11-09 2021-08-04 トヨタ自動車株式会社 ドライバ状態検出装置
US10572745B2 (en) * 2017-11-11 2020-02-25 Bendix Commercial Vehicle Systems Llc System and methods of monitoring driver behavior for vehicular fleet management in a fleet of vehicles using driver-facing imaging device
DE102018127756A1 (de) * 2017-11-15 2019-05-16 Omron Corporation Fahrerüberwachungsvorrichtung, verfahren und programm
JP6981305B2 (ja) * 2018-02-27 2021-12-15 トヨタ自動車株式会社 情報処理装置、画像配信システム、情報処理方法、及びプログラム
JP7307558B2 (ja) * 2019-03-06 2023-07-12 株式会社Subaru 車両の運転制御システム
US11361593B2 (en) * 2020-08-31 2022-06-14 Alipay Labs (singapore) Pte. Ltd. Methods and devices for face anti-spoofing

Also Published As

Publication number Publication date
US20210081690A1 (en) 2021-03-18
JP2019174885A (ja) 2019-10-10
US20240112475A1 (en) 2024-04-04
WO2019187979A1 (ja) 2019-10-03
US11893806B2 (en) 2024-02-06

Similar Documents

Publication Publication Date Title
JP6844568B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP3766909B2 (ja) 走行環境認識方法および装置
JP6947099B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP2008254487A (ja) 横風警告装置、横風警告装置を搭載した自動車、および横風警告方法
CN110998685B (zh) 行进障碍检测装置和车辆导航***
US20170151945A1 (en) Information processing device, information processing method, control device for vehicle, and control method for vehicle
JP7124935B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP2021064118A (ja) 遠隔自動運転車両、及び車両遠隔指示システム
JP2006295676A (ja) 移動体用撮像装置
JP2018127084A (ja) 自動運転車両
JP2019088522A (ja) 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム
CN114643823B (zh) 空气悬架调整方法、装置、车载终端及存储介质
JP7125893B2 (ja) 走行制御装置、制御方法およびプログラム
JP6367531B2 (ja) 車載器
JP7207434B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP7069726B2 (ja) 通知装置及び車載機
JP2021157291A (ja) 車両用表示制御装置、表示制御方法、およびプログラム
JP2019091327A (ja) 立体物検出装置
KR102474641B1 (ko) 주행 차량의 차선 이탈 방지 장치 및 방법
JP7371679B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
CN112389447B (zh) 驾驶行为判定装置、判定方法及非暂时性存储介质
US20210090234A1 (en) Image processing apparatus
CN110024008B (zh) 障碍物判定***以及障碍物判定程序
KR20240005336A (ko) 차량의 주행보조장치 및 그의 제어 방법
CN115136578A (zh) 用于控制摄像机的方法和控制单元

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210208

R150 Certificate of patent or registration of utility model

Ref document number: 6844568

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150