JP2021103092A - シート姿勢検出装置 - Google Patents
シート姿勢検出装置 Download PDFInfo
- Publication number
- JP2021103092A JP2021103092A JP2019233493A JP2019233493A JP2021103092A JP 2021103092 A JP2021103092 A JP 2021103092A JP 2019233493 A JP2019233493 A JP 2019233493A JP 2019233493 A JP2019233493 A JP 2019233493A JP 2021103092 A JP2021103092 A JP 2021103092A
- Authority
- JP
- Japan
- Prior art keywords
- seat
- vehicle
- posture
- information
- distance image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 59
- 238000009958 sewing Methods 0.000 claims description 11
- 230000036544 posture Effects 0.000 description 93
- 238000003384 imaging method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 239000000463 material Substances 0.000 description 14
- 238000000034 method Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000012417 linear regression Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 239000004677 Nylon Substances 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 229920001778 nylon Polymers 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229920000728 polyester Polymers 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000002366 time-of-flight method Methods 0.000 description 1
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【課題】車載シートの姿勢を高い精度で検出することができるシート姿勢検出装置を提供すること。【解決手段】実施形態に係るシート姿勢検出装置は、取得部と、検出部とを備える。取得部は、距離画像カメラによって撮像された車載シートの画像を取得する。検出部は、取得部によって取得された画像に基づき、シートの姿勢を検出する。【選択図】図3
Description
本発明の実施形態は、シート姿勢検出装置に関する。
従来、車両の乗員が着座する車載シートには、車載シートの前後位置を検出するシートポジションセンサが内蔵されることがある。
シートポジションセンサは、たとえば抵抗式のセンサであり、車載シートを前後方向にスライド可能に支持するシートレールに接続される。シートポジションセンサは、車載シートが前後方向にスライドされることにより抵抗値が変化するように構成されており、この抵抗値と車載シートの前後方向の位置とを対応させることで、車載シートの前後位置を検出することが可能となっている。
しかしながら、シートポジションセンサの検出精度は、車載シートの位置が前方および後方のいずれであるかを判別できる程度であり、高い検出精度が求められるシチュエーションに対応することが困難である。
そこで、本発明の課題の一つは、車載シートの姿勢を高い精度で検出することができるシート姿勢検出装置を提供することにある。
本発明の実施形態に係るシート姿勢検出装置は、一例として、距離画像カメラによって撮像された車載シートの画像を取得する取得部と、取得部によって取得された画像に基づき、車載シートの姿勢を検出する検出部とを備える。よって、一例としては、たとえばシートポジションセンサのように抵抗値を用いた間接的な検出手法と異なり、車載シートの姿勢を画像から直接検出することができる。また、距離画像カメラは、対象物である車載シートを3次元的に捉えることができるため、対象物を2次元的に捉える通常のカメラを用いる場合と比較して得られる情報量が多い。したがって、実施形態に係るシート姿勢検出装置によれば、車載シートの姿勢を高い精度で検出することができる。
上記シート姿勢検出装置は、一例として、車載シートに設けられ、距離画像カメラから照射される光を反射する反射部材をさらに備える。よって、一例としては、車載シートの表面が距離画像カメラから照射される光を吸収する素材で覆われている場合であっても、車載シートに設けられた反射部材を車載シートの一部として捉えることができる。したがって、車載シートの表面素材に依らず、車載シートの姿勢を高い精度で検出することができる。
上記シート姿勢検出装置において、反射部材は、一例として、車載シートの縫い糸である。よって、一例としては、車載シートの意匠性を損なうことなく、距離画像カメラに映る目印を車載シートに設けることができる。また、縫い糸は車載シートの形状に沿って車載シートに縫い付けられることから、車載シートの輪郭を適切に捉えることができる。また、縫い糸は長尺状であるため、乗員等によって一部が隠れることが全体的な隠れは生じ難い。すなわち、隠れていない残りの部分を用いて車載シートの姿勢を検出することが可能である。
上記シート姿勢検出装置において、検出部は、一例として、画像に基づいて車載シートの輪郭の回帰直線を算出し、算出した回帰直線を用いて車載シートの姿勢を検出する。よって、一例としては、比較的少ない処理負荷で、車載シートの姿勢を検出することができる。
上記シート姿勢検出装置において、検出部は、一例として、距離画像カメラによって過去に撮像されたシートの画像に基づく学習用画像と、このシートの姿勢とを教師データとして機械学習された学習モデルを用い、取得部によって取得された画像から推定される車載シートの姿勢を出力する。よって、一例としては、隠れに強いなどロバスト性の高い検出を行うことができる。
以下に、本願に係るシート姿勢検出装置を実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係るシート姿勢検出装置が限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
(第1実施形態)
〔1.車両1の構成〕
図1は、第1実施形態に係るシート姿勢検出装置が搭載される車両1の車室内を上方から見た平面図である。図1に示すように、車両1の車室内には、複数の車載シート2が搭載されている。たとえば、車室内の前方側には運転席シート2aおよび助手席シート2bが設けられ、後方側には複数の後部シート2c〜2eが設けられる。複数の後部シート2c〜2eのうち、後部シート2cは、運転席シート2aの後方に設けられ、後部シート2dは、助手席シート2bの後方に設けられ、後部シート2eは、後部シート2cと後部シート2dとの間に設けられる。
〔1.車両1の構成〕
図1は、第1実施形態に係るシート姿勢検出装置が搭載される車両1の車室内を上方から見た平面図である。図1に示すように、車両1の車室内には、複数の車載シート2が搭載されている。たとえば、車室内の前方側には運転席シート2aおよび助手席シート2bが設けられ、後方側には複数の後部シート2c〜2eが設けられる。複数の後部シート2c〜2eのうち、後部シート2cは、運転席シート2aの後方に設けられ、後部シート2dは、助手席シート2bの後方に設けられ、後部シート2eは、後部シート2cと後部シート2dとの間に設けられる。
車室内の前方側には、距離画像カメラ3が設けられる。距離画像カメラ3は、対象物までの距離を計測可能な撮像装置である。距離画像カメラ3は、たとえば、TOF(Time Of Flight)カメラである。TOFカメラとしての距離画像カメラ3は、近赤外光をパルス状に照射し、照射した近赤外光の対象物からの反射時間に基づいて対象物までの距離を画素ごとに計測する。
TOFカメラとしての距離画像カメラ3は、輝度画像および距離画像を出力する。輝度画像は、輝度値を画素値とする画像(近赤外画像)である。また、距離画像は、距離画像カメラ3(撮像位置)からの距離を画素値とする画像である。距離画像カメラ3は、これら輝度画像および距離画像を同一光軸(同一画角)の画像として出力する。
第1実施形態において、距離画像カメラ3は、車室内の全ての車載シート2を撮像可能なように向き、画角および設置位置等が決められる。たとえば、距離画像カメラ3は、ダッシュボード、ルームミラー、天井等に設置され得る。なお、これに限らず、距離画像カメラ3は、特定の車載シート2のみを撮像可能な位置に配置されてもよい。
ここでは、1台の距離画像カメラ3を用いて輝度画像および距離画像の両方を撮像するものとするが、車両1には、たとえば、輝度画像を撮像する撮像装置と距離画像を撮像する撮像装置とが別々に設けられてもよい。また、距離画像を撮像する撮像装置は、TOF方式に限らず、ステレオビジョン方式、ストラクチャードライト方式、レーザ三角測量方式等の他の3Dイメージング方式の撮像装置であってもよい。
〔2.制御システム100の構成〕
車両1には、制御システム100(シート姿勢検出装置の一例)が設けられる。かかる制御システム100の構成について図2を参照して説明する。図2は、第1実施形態に係る制御システム100の構成を示すブロック図である。
車両1には、制御システム100(シート姿勢検出装置の一例)が設けられる。かかる制御システム100の構成について図2を参照して説明する。図2は、第1実施形態に係る制御システム100の構成を示すブロック図である。
図2に示すように、制御システム100は、距離画像カメラ3と、複数のエアバッグ装置8(制御対象となる車載機器の一例)と、ECU10と、車内ネットワーク20とを備える。
距離画像カメラ3は、たとえばNTSC(National Television System Committee)ケーブル等の出力線を介してECU10に接続され、撮像した輝度画像および距離画像を出力線を介してECU10に出力する。
エアバッグ装置8は、車両1の衝突時などにエアバッグを展開することによって、車載シート2に着座した乗員を衝撃から保護する。実施形態に係るエアバッグ装置8は、エアバッグの展開力を変更することが可能である。
ECU10は、車内ネットワーク20を介して制御信号を送ることにより、たとえばエアバッグ装置8を制御してエアバッグの展開力を変更することができる。その他、ECU10は、ブレーキシステムの制御、操舵システムの制御等を実行し得る。
ECU10は、たとえば、CPU(Central Processing Unit)11と、SSD(Solid State Drive)12と、ROM(Read Only Memory)13と、RAM(Random Access Memory)14とを備える。CPU11は、ROM13等の不揮発性の記憶装置にインストールされ記憶されたプログラムを実行することによって、シート姿勢検出装置としての機能を実現する。RAM14は、CPU11での演算で用いられる各種のデータを一時的に記憶する。SSD12は、書き換え可能な不揮発性の記憶装置であって、ECU10の電源がオフされた場合にあってもデータを記憶することができる。CPU11、ROM13、およびRAM14等は、同一パッケージ内に集積され得る。ECU10は、CPU11に替えて、DSP(Digital Signal Processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。SSD12に替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD12またはHDDは、ECU10とは別に設けられてもよい。
〔3.ECU10の機能的構成〕
次に、ECU10の機能的構成について図3を参照して説明する。図3は、第1実施形態に係るECU10の機能的構成を示すブロック図である。
次に、ECU10の機能的構成について図3を参照して説明する。図3は、第1実施形態に係るECU10の機能的構成を示すブロック図である。
図3に示すように、ECU10は、取得部31と、点群生成部32と、2次元投影部33と、シート姿勢検出部34と、機器制御部35と、記憶部50とを備える。取得部31、点群生成部32、2次元投影部33、シート姿勢検出部34および機器制御部35は、CPU11が、ROM13に格納されたプログラムを実行することによって実現される。なお、これらの構成は、ハードウェア回路にて実現されてもよい。記憶部50は、たとえばSSD12により構成される。
取得部31は、距離画像カメラ3によって撮像された輝度画像および距離画像を距離画像カメラ3から取得する。取得部31は、取得した輝度画像および距離画像を記憶部50に記憶する(図3中、輝度画像51および距離画像52に相当)。
距離画像カメラ3によって撮像された輝度画像51および距離画像52は、車載シート2の姿勢検出に用いられる。ここで、TOFカメラとしての距離画像カメラ3は、近赤外光を用いて車載シート2の撮像を行うが、車載シート2の表面が革などの近赤外光を吸収し易い(反射しにくい)素材で覆われていると、輝度画像51および距離画像52に車載シート2が映りにくくなる。この場合、輝度画像51および距離画像52を用いた車載シート2の姿勢検出が困難となる。
そこで、第1実施形態に係るシート姿勢検出装置は、距離画像カメラ3から照射される光(ここでは、近赤外光)を反射する反射部材を車載シート2に設けることで、車載シート2の素材に依らず、車載シート2の姿勢検出を行うことができるようにしている。
この点について、図4および図5を参照して説明する。図4は、車載シート2に設けられる反射部材の一例を示す図である。また、図5は、輝度画像51の一例を示す図である。
図4に示すように、反射部材5は、たとえば車載シート2の背もたれ21に設けられる。第1実施形態に係る反射部材5は、車載シート2の縫い糸であり、たとえば背もたれ21の上部(ヘッドレスト22側の端部)から下部(座部23側の端部)に向かう方向に沿って直線状に延在する。
このように、反射部材5を直線状とすることで、シート姿勢の1つである車載シート2のリクライニング角度の検出が容易となる。また、反射部材5を直線状とすることで、たとえば乗員等によって反射部材5の一部が隠れることはあっても、反射部材5の全体的な隠れは生じ難く、隠れていない部分を用いて車載シート2の姿勢を検出することが可能である。
なお、反射部材5は、必ずしも直線状であることを要しない。たとえば、反射部材5は面上であってもよい。その他、反射部材5の形状は、少なくとも後述するシート姿勢検出部34による直線回帰分析が可能なものであれば特に限定されない。
反射部材5は、近赤外光を反射する素材、たとえば化学繊維、一例として、ポリエステル、ナイロンなどにより形成される。なお、反射部材5の素材は、少なくとも車載シート2の表面素材よりも近赤外光の反射率が高い素材であればよい。
図5に示すように、反射部材5は、車載シート2の側面に設けられることが好ましい。車載シート2の側面に反射部材5を設けることで、車載シート2に着座した乗員によって反射部材5が隠れてしまうことを抑制することができる。なお、図5に示す注目領域Rについては後述する。
ここでは、距離画像カメラ3がTOFカメラである場合、すなわち、距離画像カメラ3から照射される光が近赤外光であって、反射部材5が、かかる近赤外光を反射する素材で形成される場合の例を示した。これに限らず、反射部材5の特性は、距離画像カメラ3の方式に応じて適宜決定されればよい。たとえば、距離画像カメラ3がストラクチャードライト方式のものである場合、周囲が暗かったり対象物が黒っぽかったりすると、対象物が映りにくいことから、反射部材5は、対象物(車載シート2)よりも明るい色彩の素材で形成されることが好ましい。
図3に戻り、点群生成部32について説明する。点群生成部32は、記憶部50に記憶された輝度画像51、距離画像52および撮像環境情報53に基づき、幾何学的計算を行うことにより、3次元絶対座標系における車載シート2の3次元点群情報を生成する。
撮像環境情報53は、後述する3次元絶対座標系における距離画像カメラ3の位置、姿勢の他、レンズの種類、撮像時における各種パラメータの値を含む情報である。撮像環境情報53を用いることで、車載シート2の座標を、距離画像カメラ3の撮像位置とは異なる位置を原点とする3次元絶対座標系における3次元座標で表すことができる。
図6は、車載シート2の3次元点群情報54の一例を示す図である。なお、図6では、理解を容易にするために、車載シート2の全体的な形状が点群によって示される場合の例を示している。
図6に示す3次元絶対座標系は、距離画像カメラ3の撮像位置PCと異なる位置を原点POとする3次元座標系である。3次元絶対座標系における3次元座標の値は、3次元絶対座標系の原点PO(0,0,0)から対象物(ここでは、車載シート2)の各点までの実際の距離の値である。
このように、シート姿勢検出装置は、距離画像カメラ3の位置、向き、レンズの種類といった撮像環境に依存する2次元座標系で表された輝度画像51および距離画像52における座標を、かかる撮像環境に依存しない3次元絶対座標系における3次元座標に変換する。これにより、個々の環境に応じた機械学習やパラメータ適合等が不要となるため、汎用性の高いシート姿勢検出ロジックを構築することができる。すなわち、いかなる撮像環境においても、その環境に応じた機械学習を行うことなく、車載シート2の姿勢を検出することが可能となる。
点群生成部32によって生成される3次元点群情報は、車載シート2の表面の形状を表す多数の点の集合である。3次元点群の生成手法については、いかなる公知技術を用いても構わない。点群生成部32は、生成した3次元点群情報から注目領域R(図5参照)に含まれる点群を切り出して記憶部50に記憶する(図3中、3次元点群情報54に相当)。注目領域Rは、車載シート2の一部を含む領域、具体的には、反射部材5を含む領域である。
2次元投影部33は、記憶部50に記憶された3次元点群情報54を2次元平面に投影することにより、2次元点群情報を生成する。2次元投影部33は、生成した2次元点群情報を記憶部50に記憶する(図3中、2次元点群情報55に相当)。
このように、3次元点群情報54を2次元点群情報55に変換することにより、情報量を削減することができるため、シート姿勢検出部34の処理負荷を抑えることができる。
図7は、車載シート2に設けられた反射部材5の2次元点群情報55の一例を示す図である。図7では、理解を容易にするために、3次元点群情報54をYZ平面(車両1の側方から車両1を見た平面)に投影した2次元点群情報55の例を示している。これに限らず、2次元投影部33は、3次元点群情報54をXY平面に投影した2次元点群情報55を生成してもよいし、XZ平面に投影した2次元点群情報55を生成してもよい。
図6では、車載シート2の形状がはっきりと示された3次元点群情報54を示したが、上述したように、車載シート2の表面素材が近赤外光を吸収する素材で形成されている場合、車載シート2の3次元点群情報54が得られないおそれがある。このような場合であっても、車載シート2に反射部材5を設けておくことで、仮に車載シート2自体の3次元点群情報54が得られない場合であっても、図7に示すように、かかる反射部材5の2次元点群情報55を車載シート2の一部の2次元点群情報55として取得することができる。
シート姿勢検出部34は、記憶部50に記憶された2次元点群情報55に基づき、車載シート2の姿勢を検出する。
シート姿勢検出部34は、車載シート2の姿勢として、車載シート2のリクライニング角度およびシート位置の2つを検出する。リクライニング角度とは、背もたれ21の角度のことであり、シート位置とは、車両1の前後方向における車載シート2の位置のことである。
第1の実施形態に係るシート姿勢検出部34は、2次元点群情報55に対し直線回帰分析を行うことにより、車載シート2のリクライニング角度およびシート位置を検出する。
この点について図8を参照して説明する。図8は、直線回帰分析を用いたシート姿勢検出処理を説明するための図である。
図8に示すように、シート姿勢検出部34は、2次元点群情報55に対して直線回帰分析を行うことにより、車載シート2の輪郭の回帰直線を算出する。具体的には、2次元点群情報55によって示される点群の回帰直線Lを、車載シート2の輪郭の回帰直線として算出する。
この際、シート姿勢検出部34は、2次元点群情報55によって示される点群から、車載シート2の輪郭を示す点群を抽出し、抽出した点群の回帰直線を算出してもよい。たとえば、2次元点群情報55によって示される点群のうち、点群の密度が閾値以上である領域に含まれる点群を抽出して直線回帰分析に用いてもよい。
直線回帰分析としては、たとえば、RANSAC(Random Sample Consensus)を用いることができる。また、最小メジアン法(LMedS:Least Median of Squares)やM推定(M-estimation)などのRANSAC以外のロバスト推定が用いられてもよい。
シート姿勢検出部34は、算出した回帰直線Lの傾きを車載シート2のリクライニング角度として検出する。なお、これに限らず、シート姿勢検出部34は、回帰直線Lの傾きとリクライニング角度とを予め対応付けた変換情報56とを用いて、回帰直線Lの傾きをリクライニング角度に変換してもよい。
また、シート姿勢検出部34は、回帰直線LとY軸との交点(Y切片)の座標y1(Y座標)を算出する。そして、シート姿勢検出部34は、算出したY切片の座標y1と、回帰直線のY切片とシート位置とを予め対応付けた変換情報56とを用いて、算出したY切片の座標y1をシート位置に変換する。
変換情報56は、実験等により作成されるものとする。変換情報56は、テーブル情報であってもよいし、変換式であってもよい。
ここでは、Y切片の座標をシート位置に変換することとしたが、使用する切片はY切片以外の切片であってもよい。たとえば、シート姿勢検出部34は、回帰直線LとZ軸との交点(Z切片)の座標をシート位置に変換してもよい。この場合の変換情報56は、回帰直線のY切片とシート位置とを対応付けた情報である。
シート姿勢検出部34は、検出したリクライニング角度およびシート位置を含むシート姿勢情報を記憶部50に記憶する(図3中、シート姿勢情報57に相当)。
機器制御部35は、記憶部50に記憶されたシート姿勢情報57に基づき、車両1に搭載される各種機器の制御を行う。一例として、機器制御部35は、シート姿勢情報57に基づき、エアバッグ装置8を制御することにより、エアバッグの展開力を変更する。また、機器制御部35は、シート姿勢情報57に基づき、シートベルト装置を制御することにより、シートベルトの拘束力を変更してもよい。
このように、車載シート2のリクライニング角度やシート位置に応じて、エアバッグの展開力やシートベルトの拘束力を変化させることで、乗員の安全性を高めることができる。
〔4.ECU10の具体的動作〕
次に、ECU10の具体的動作について図9を参照して説明する。図9は、第1実施形態に係るECU10が実行する処理の手順を示すフローチャートである。
次に、ECU10の具体的動作について図9を参照して説明する。図9は、第1実施形態に係るECU10が実行する処理の手順を示すフローチャートである。
図9に示すように、まず、取得部31が、距離画像カメラ3から輝度画像51および距離画像52を取得し(ステップS101)、点群生成部32が、輝度画像51、距離画像52および撮像環境情報53に基づき、3次元点群情報を生成する(ステップS102)。また、点群生成部32は、生成した3次元点群情報から、反射部材5を含む注目領域Rを切り出す(ステップS103)。
つづいて、2次元投影部33が、切り出された3次元点群情報54を2次元平面に投影することにより、2次元点群情報55を生成する(ステップS104)。
つづいて、シート姿勢検出部34が、2次元点群情報55に基づき回帰直線Lを算出する(ステップS105)。そして、シート姿勢検出部34は、回帰直線Lの角度に基づきリクライニング角度を検出し(ステップS106)、回帰直線Lの切片に基づきシート位置を検出する(ステップS107)。
そして、機器制御部35が、リクライニング角度およびシート位置に基づき、エアバッグ装置8の車載機器を制御する(ステップS108)。
(第2実施形態)
次に、第2実施形態に係るECU10Aの構成について図10を参照して説明する。図10は、第2実施形態に係るECU10Aの機能的構成を示すブロック図である。
次に、第2実施形態に係るECU10Aの構成について図10を参照して説明する。図10は、第2実施形態に係るECU10Aの機能的構成を示すブロック図である。
第2実施形態に係るECU10Aは、機械学習を用いて、2次元投影部33によって生成された2次元点群情報55から車載シート2のリクライニング角度およびシート位置を直接出力する。
具体的には、ECU10Aは、シート姿勢検出部34Aを備える。また、ECU10Aは記憶部50Aを備える。記憶部50Aは、学習モデル58を記憶する。
シート姿勢検出部34Aは、記憶部50Aに記憶された学習モデル58を用い、2次元投影部33によって生成された2次元点群情報55から推定される車載シート2の姿勢(リクライニング角度およびシート位置)をシート姿勢情報57として出力する。
学習モデル58は、距離画像カメラによって過去に撮像されたシートの画像に基づく学習用画像、具体的には、上記シートの画像に基づき生成された2次元点群情報と、このシートの姿勢とを教師データとして機械学習された学習モデルである。学習モデル58の生成に用いられる距離画像カメラは、少なくとも距離画像カメラ3と同様の撮像方式(ここでは、TOF方式)のものであればよく、必ずしも距離画像カメラ3そのものであることを要しない。また、距離画像カメラによって撮像されるシートも、必ずしも車載シート2そのものであることを要しない。
学習モデル58の生成は、たとえば、CNN(Convolutional Neural Network)、RNN(Recurrent Neural Network)等の種々のディープラーニングの技術を適宜用いて行われてもよい。また、学習モデル58の生成は、SVM(Support Vector Machine)等により行われてもよい。
このように、第2実施形態に係るECU10Aでは、2次元点群情報55に基づくリクライニング角度およびシート位置の検出を学習モデル58を用いて行うこととした。これにより、一例としては、隠れに強いなどロバスト性の高い検出を行うことが可能となる。
機械学習に用いる学習用画像は、3次元点群情報をXY平面、XZ平面、YZ平面のいずれに投影した2次元点群情報であっても構わない。ただし、距離画像カメラ3のように、車室内を車両の前方から後方に向かって撮像した場合には、XZ平面に投影した2次元点群情報が、情報量の多さの点で優れている。
すなわち、2次元点群情報には、元となる3次元点群情報のうち、投影方向に沿って見た場合の最表面に位置する点群のみが情報として残り、他の点群(すなわち最表面の点群の奥に隠れた点群)の情報は消失する。この点において、車載シートを正面から捉えたXZ平面の2次元点群情報は、車載シートを側方あるいは上方から捉えた他の2次元点群情報と比較して情報の消失量が少ない。このため、XZ平面の2次元点群情報を学習用情報として用いることでより精度の高い学習モデル58を生成することが可能となる。
なお、XZ平面の2次元点群情報を学習用画像として用いる場合、2次元投影部33は、3次元点群情報54をXZ平面に投影した2次元点群情報55を生成し、シート姿勢検出部34Aは、かかる2次元点群情報55と学習モデル58とを用いてシート姿勢情報57を生成する。
また、学習用画像は、XY平面、XZ平面、YZ平面の2次元点群情報のうち複数(2つまたは全て)の2次元点群情報であってもよい。すなわち、1つの3次元点群情報を異なる2次元平面に投影した複数の2次元点群情報を学習用画像として用いてもよい。XY平面、XZ平面、YZ平面の2次元点群情報は、3次元点群情報から消失する情報が異なるため、複数の2次元点群情報を学習用画像として用いることで、消失した情報を互いに補うことができる。したがって、より精度の高い学習モデル58を生成することが可能である。なお、この場合、2次元投影部33は、投影面が異なる複数の2次元点群情報55を生成し、シート姿勢検出部34Aは、これら複数の2次元点群情報55と学習モデル58とを用いてシート姿勢情報57を生成すればよい。
また、学習用情報は、必ずしも2次元点群情報であることを要しない。たとえば、学習用情報は、3次元点群情報であってもよい。この場合、シート姿勢検出部34Aは、点群生成部32によって生成された3次元点群情報54と学習モデル58とを用いてシート姿勢情報57を生成することができる。なお、3次元点群情報54ではなく、2次元点群情報55を用いることで、シート姿勢検出処理の処理負荷を抑えつつ、車載シート2の姿勢を高い精度で検出することが可能である。
また、学習用情報は、距離画像カメラから出力される画像すなわち輝度画像および距離画像であってもよい。この場合、シート姿勢検出部34Aは、距離画像カメラ3から取得した輝度画像51および距離画像52と学習モデル58とを用いてシート姿勢情報57を生成することができる。なお、輝度画像51および距離画像52ではなく、絶対座標系で表された3次元点群情報54や2次元点群情報55を用いることで、汎用性・応用性を高めることができる。すなわち、たとえば距離画像カメラ3の交換を行った場合であっても、学習モデル58を引き続き利用することができる。
上述してきたように、実施形態に係るシート姿勢検出装置(一例として、制御システム100)は、取得部(一例として、取得部31)と、検出部(一例として、シート姿勢検出部34,34A)とを備える。取得部は、距離画像カメラ(一例として、距離画像カメラ3)によって撮像された車載シート(一例として、車載シート2)の画像(一例として、輝度画像51および距離画像52)を取得する。検出部は、取得部によって取得された画像に基づき、車載シートの姿勢(一例として、車載シート2)を検出する。
よって、一例としては、たとえばシートポジションセンサのように抵抗値を用いた間接的な検出手法と異なり、車載シートの姿勢を画像から直接検出することができる。また、距離画像カメラは、対象物である車載シートを3次元的に捉えることができるため、対象物を2次元的に捉える通常のカメラを用いる場合と比較よりも得られる情報量が多い。したがって、実施形態に係るシート姿勢検出装置によれば、車載シートの姿勢を高い精度で検出することができる。
シート姿勢検出装置は、一例として、車載シートに設けられ、距離画像カメラから照射される光(一例として、近赤外光)を反射する反射部材(一例として、反射部材5)をさらに備える。よって、一例としては、車載シートの表面が距離画像カメラから照射される光を吸収する素材で覆われている場合であっても、車載シートに設けられた反射部材を車載シートの輪郭の一部として捉えることができる。したがって、車載シートの表面素材に依らず、車載シートの姿勢を高い精度で検出することができる。
上記シート姿勢検出装置において、反射部材は、一例として、車載シートの縫い糸である。よって、一例としては、車載シートの意匠性を損なうことなく、距離画像カメラに映る目印を車載シートに設けることができる。また、縫い糸は車載シートの形状に沿って車載シートに縫い付けられることから、車載シートの輪郭を適切に捉えることができる。また、縫い糸は長尺状であるため、乗員等によって一部が隠れることはあっても全体的な隠れは生じ難い。すなわち、隠れていない残りの部分を用いて車載シートの姿勢を検出することが可能である。
上記シート姿勢検出装置において、検出部(一例として、シート姿勢検出部34)は、一例として、画像に基づいて車載シートの輪郭の回帰直線(一例として、回帰直線L)を算出し、算出した回帰直線を用いて車載シートの姿勢を検出する。よって、一例としては、比較的少ない処理負荷で、車載シートの姿勢を検出することができる。
上記シート姿勢検出装置において、検出部(一例として、シート姿勢検出部34A)は、一例として、距離画像カメラによって過去に撮像されたシートの画像に基づく学習用画像と、このシートの姿勢とを教師データとして機械学習された学習モデル(一例として、学習モデル58)を用い、取得部によって取得された画像から推定される車載シートの姿勢を出力する。よって、一例としては、隠れに強いなどロバスト性の高い検出を行うことができる。
以上、本発明の実施形態を例示したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態や変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各実施形態や各変形例の構成や形状は、部分的に入れ替えて実施することも可能である。
1…車両、2…車載シート、3…距離画像カメラ、5…反射部材、10…ECU、31…取得部、32…点群生成部、33…2次元投影部、34…シート姿勢検出部、35…機器制御部、50…記憶部、51…輝度画像、52…距離画像、53…撮像環境情報、54…3次元点群情報54…2次元点群情報、56…変換情報、57…シート姿勢情報、58…学習モデル、100…制御システム。
Claims (5)
- 距離画像カメラによって撮像された車載シートの画像を取得する取得部と、
前記取得部によって取得された前記画像に基づき、前記車載シートの姿勢を検出する検出部と
を備える、シート姿勢検出装置。 - 前記車載シートに設けられ、前記距離画像カメラから照射される光を反射する反射部材
をさらに備える、請求項1に記載のシート姿勢検出装置。 - 前記反射部材は、前記車載シートの縫い糸である、請求項2に記載のシート姿勢検出装置。
- 前記検出部は、
前記画像に基づいて前記車載シートの輪郭の回帰直線を算出し、算出した前記回帰直線を用いて前記車載シートの姿勢を検出する、請求項1〜3のいずれか一つに記載のシート姿勢検出装置。 - 前記検出部は、
距離画像カメラによって過去に撮像されたシートの画像に基づく学習用画像と、当該シートの姿勢とを教師データとして機械学習された学習モデルを用い、前記取得部によって取得された前記画像から推定される前記車載シートの姿勢を出力する、請求項1〜3のいずれか一つに記載のシート姿勢検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019233493A JP2021103092A (ja) | 2019-12-24 | 2019-12-24 | シート姿勢検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019233493A JP2021103092A (ja) | 2019-12-24 | 2019-12-24 | シート姿勢検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021103092A true JP2021103092A (ja) | 2021-07-15 |
Family
ID=76755078
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019233493A Pending JP2021103092A (ja) | 2019-12-24 | 2019-12-24 | シート姿勢検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021103092A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024012586A1 (en) * | 2022-07-15 | 2024-01-18 | Zf Automotive Technologies (shanghai) Co., Ltd. | Method and system for monitoring pose of vehicle interior component |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05181966A (ja) * | 1991-12-27 | 1993-07-23 | Minolta Camera Co Ltd | 画像出力方法 |
JPH1163950A (ja) * | 1997-08-11 | 1999-03-05 | Toshiba Corp | 物体検査方法および物体検査装置 |
JP2002008021A (ja) * | 2000-06-16 | 2002-01-11 | Tokai Rika Co Ltd | 乗員検知システム |
JP2004243918A (ja) * | 2003-02-14 | 2004-09-02 | T S Tec Kk | 車両用シートの表皮材および車両用シート並びに乗員検出装置 |
JP2008001136A (ja) * | 2006-06-20 | 2008-01-10 | Takata Corp | 車両乗員シート検出システム、作動装置制御システム、車両 |
JP2010071999A (ja) * | 2000-12-20 | 2010-04-02 | Siemens Ag | 乗員保護システムに関して車両における対象を検知する方法および乗員保護システムに関して車両における対象を検知する装置 |
JP2012128671A (ja) * | 2010-12-15 | 2012-07-05 | Honda Motor Co Ltd | 空席判定装置、及び、空席判定方法 |
JP2013138742A (ja) * | 2011-12-29 | 2013-07-18 | Dunlop Sports Co Ltd | ゴルフスイングの診断方法 |
JP2018096946A (ja) * | 2016-12-16 | 2018-06-21 | アイシン精機株式会社 | 乗員検出装置 |
CN109087323A (zh) * | 2018-07-25 | 2018-12-25 | 武汉大学 | 一种基于精细cad模型的图像车辆三维姿态估计方法 |
JP2019040465A (ja) * | 2017-08-25 | 2019-03-14 | トヨタ自動車株式会社 | 行動認識装置,学習装置,並びに方法およびプログラム |
JP2019191991A (ja) * | 2018-04-26 | 2019-10-31 | Kddi株式会社 | 点群から対象の向きを推定する対象情報推定装置、プログラム及び方法 |
WO2019216303A1 (ja) * | 2018-05-09 | 2019-11-14 | レーザーテック株式会社 | 検査装置、検査方法、学習方法、及びプログラム |
JP2019200175A (ja) * | 2018-05-18 | 2019-11-21 | 古野電気株式会社 | 魚種推定システム、魚種推定方法、及びプログラム |
US20190375312A1 (en) * | 2018-06-11 | 2019-12-12 | Volvo Car Corporation | Method and system for controlling a state of an occupant protection feature for a vehicle |
-
2019
- 2019-12-24 JP JP2019233493A patent/JP2021103092A/ja active Pending
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05181966A (ja) * | 1991-12-27 | 1993-07-23 | Minolta Camera Co Ltd | 画像出力方法 |
JPH1163950A (ja) * | 1997-08-11 | 1999-03-05 | Toshiba Corp | 物体検査方法および物体検査装置 |
JP2002008021A (ja) * | 2000-06-16 | 2002-01-11 | Tokai Rika Co Ltd | 乗員検知システム |
JP2010071999A (ja) * | 2000-12-20 | 2010-04-02 | Siemens Ag | 乗員保護システムに関して車両における対象を検知する方法および乗員保護システムに関して車両における対象を検知する装置 |
JP2004243918A (ja) * | 2003-02-14 | 2004-09-02 | T S Tec Kk | 車両用シートの表皮材および車両用シート並びに乗員検出装置 |
JP2008001136A (ja) * | 2006-06-20 | 2008-01-10 | Takata Corp | 車両乗員シート検出システム、作動装置制御システム、車両 |
JP2012128671A (ja) * | 2010-12-15 | 2012-07-05 | Honda Motor Co Ltd | 空席判定装置、及び、空席判定方法 |
JP2013138742A (ja) * | 2011-12-29 | 2013-07-18 | Dunlop Sports Co Ltd | ゴルフスイングの診断方法 |
JP2018096946A (ja) * | 2016-12-16 | 2018-06-21 | アイシン精機株式会社 | 乗員検出装置 |
JP2019040465A (ja) * | 2017-08-25 | 2019-03-14 | トヨタ自動車株式会社 | 行動認識装置,学習装置,並びに方法およびプログラム |
JP2019191991A (ja) * | 2018-04-26 | 2019-10-31 | Kddi株式会社 | 点群から対象の向きを推定する対象情報推定装置、プログラム及び方法 |
WO2019216303A1 (ja) * | 2018-05-09 | 2019-11-14 | レーザーテック株式会社 | 検査装置、検査方法、学習方法、及びプログラム |
JP2019200175A (ja) * | 2018-05-18 | 2019-11-21 | 古野電気株式会社 | 魚種推定システム、魚種推定方法、及びプログラム |
US20190375312A1 (en) * | 2018-06-11 | 2019-12-12 | Volvo Car Corporation | Method and system for controlling a state of an occupant protection feature for a vehicle |
CN109087323A (zh) * | 2018-07-25 | 2018-12-25 | 武汉大学 | 一种基于精细cad模型的图像车辆三维姿态估计方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024012586A1 (en) * | 2022-07-15 | 2024-01-18 | Zf Automotive Technologies (shanghai) Co., Ltd. | Method and system for monitoring pose of vehicle interior component |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10997739B2 (en) | Systems and methods for acquiring information from an environment | |
US10730465B2 (en) | 3D time of flight active reflecting sensing systems and methods | |
US7379195B2 (en) | Device for the detection of an object on a vehicle seat | |
US9493120B2 (en) | Image generator | |
US10467789B2 (en) | Image processing device for vehicle | |
US20170203692A1 (en) | Method and device for the distortion-free display of an area surrounding a vehicle | |
JP2008518195A (ja) | 乗員検出システム | |
CN104660980B (zh) | 车载图像处理装置和半导体装置 | |
JP2004503759A (ja) | 乗員センサ | |
JP2006224856A (ja) | 検知システム、報知装置、駆動装置、車両 | |
JP2020047273A (ja) | 3次元特徴点情報生成装置 | |
JP2008052029A (ja) | 撮像システム、車両乗員検出システム、作動装置制御システム、車両 | |
JP2006527354A (ja) | 画像センサのキャリブレーションのための装置及び方法 | |
JP2006209750A (ja) | ユーザの目を検出し、ユーザの位置及び瞬き状態を決定する方法 | |
JP5453230B2 (ja) | 乗員検知装置 | |
EP1792788A1 (en) | Scanned laser-line sensing apparatus for a vehicle occupant | |
JP5401440B2 (ja) | 乗員頭部検知装置 | |
US20190329671A1 (en) | Occupant information determination apparatus | |
JP2016203910A (ja) | 乗員検知装置および乗員検知方法 | |
WO2019049709A1 (ja) | 画像処理装置、画像処理方法、および画像表示システム | |
JP2021103092A (ja) | シート姿勢検出装置 | |
KR20040012679A (ko) | 차량 내부의 탑승 유무를 결정하는 방법 및 장치 | |
JP2020194294A (ja) | 関節点検出装置 | |
JP2021056968A (ja) | 物体判定装置 | |
JP5548111B2 (ja) | シート検知装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221014 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230516 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230524 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231107 |