JP7281289B2 - 演算装置 - Google Patents

演算装置 Download PDF

Info

Publication number
JP7281289B2
JP7281289B2 JP2019014740A JP2019014740A JP7281289B2 JP 7281289 B2 JP7281289 B2 JP 7281289B2 JP 2019014740 A JP2019014740 A JP 2019014740A JP 2019014740 A JP2019014740 A JP 2019014740A JP 7281289 B2 JP7281289 B2 JP 7281289B2
Authority
JP
Japan
Prior art keywords
vehicle
unit
estimated
edge
passage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019014740A
Other languages
English (en)
Other versions
JP2020123154A (ja
Inventor
浩平 萬代
健人 緒方
栄篤 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Faurecia Clarion Electronics Co Ltd filed Critical Clarion Co Ltd
Priority to JP2019014740A priority Critical patent/JP7281289B2/ja
Priority to CN202010076310.7A priority patent/CN111507173B/zh
Priority to US16/776,165 priority patent/US11205081B2/en
Priority to EP20154329.5A priority patent/EP3690401A1/en
Publication of JP2020123154A publication Critical patent/JP2020123154A/ja
Application granted granted Critical
Publication of JP7281289B2 publication Critical patent/JP7281289B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D6/00Arrangements for automatically controlling steering depending on driving conditions sensed and responded to, e.g. control circuits
    • B62D6/002Arrangements for automatically controlling steering depending on driving conditions sensed and responded to, e.g. control circuits computing target steering angles for front or rear wheels
    • B62D6/006Arrangements for automatically controlling steering depending on driving conditions sensed and responded to, e.g. control circuits computing target steering angles for front or rear wheels using a measured or estimated road friction coefficient
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3602Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00Measuring or testing not otherwise provided for
    • G01D21/02Measuring two or more variables by means not covered by a single other subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、演算装置に関する。
運転者への注意喚起や自動運転のために、センサが収集した情報を用いて壁などの車両が走行できない通路端を検出する技術が開発されている。センサにより壁面の詳細な情報が取得できることが理想的ではあるが、センサの空間分解能や壁面とセンサの位置関係によっては十分な情報を取得できないこともある。特許文献1には、鉱山の走行路を走行可能な走行装置と、前記走行装置に支持される車体と、前記車体の前部に設けられ、検出エリアの物体を非接触で検出可能であり、前記走行装置の走行において前記車体の前方の前記走行路及び前記走行路の傍らが前記検出エリアに配置される非接触センサと、前記非接触センサの出力信号に基づいて、前記車体の前方の前記走行路の障害物を検出する障害物検出部と、前記非接触センサの出力信号に基づいて、前記走行路の傍らの壁部との距離を検出する距離検出部と、前記障害物検出部及び前記距離検出部の少なくとも一方の検出結果に基づいて、前記走行装置を制御する走行制御部と、を備える鉱山機械が開示されている。
国際公開第2015/102096号
特許文献1に記載されている発明では、壁面の情報が十分に得られない場合の対応に改善の余地がある。
本発明の第1の態様による演算装置は、車両に搭載されて車両の周囲の情報をセンサ情報として収集するセンサから前記センサ情報を取得するセンサ情報取得部と、前記センサ情報を用いて物体の特徴点を抽出する特徴点抽出部と、前記特徴点抽出部が抽出した前記特徴点の位置を空間座標で表し、物標点として検出する物標点検出部と、連続的に並ぶ前記物標点の間を通路端と推定する通路端推定部と、前記通路端推定部が推定した通路端を取り消すか否かを、前記センサ情報から得られる前記推定した通路端の背後の情報に基づき判定する閉塞判定部とを備え、前記通路端の背後とは、推定された前記通路端に対して前記センサとは逆側の領域である。
本発明によれば、壁面の情報が十分に得られない場合に簡易に推定した通路端の真偽を判断できる。
車両9のハードウエア構成図 演算装置1の機能構成図 車両9が走行している駐車場を上から見た図 演算装置1による物標点の認識結果を示す図 通路端推定部116による通路端の推定結果を示す図 閉塞判定部118の第1の手法を説明する模式図 閉塞判定部118の第1の手法を図5に示した通路端推定部116による通路端の推定結果に適用した結果を示す図 閉塞判定部118の第3の手法を説明する模式図 演算装置1による通路端の推定処理を示すフローチャート 変形例4における第1の手法を説明する図 図10を異なる角度から見た図
―実施の形態―
以下、図1~図9を参照して、演算装置の実施の形態を説明する。
(ハードウエア構成)
図1は、演算装置1が搭載される車両9のハードウエア構成図である。車両9には、演算装置1と、表示装置2と、車両センサ3と、車両制御部4と、カメラ5と、レーザ6とが備えられる。なお以下では、車両9を他の車両と区別するために「自車両」9とも呼ぶ。
演算装置1は、中央演算装置であるCPU11、読み出し専用の記憶装置であるROM12、および読み書き可能な記憶装置であるRAM13を備え、CPU11がROM12に格納されるプログラムをRAM13に展開して実行することで後述する複数の機能を実現する。演算装置1はカメラ5およびレーザ6の出力を用いて車両9の周囲に存在する壁を推定し、その壁の存在を表示装置2および車両制御部4に出力する。
ただし演算装置1は、CPU11、ROM12、およびRAM13の組み合わせの代わりに書き換え可能な論理回路であるFPGA(Field Programmable Gate Array)や特定用途向け集積回路であるASIC(Application Specific Integrated Circuit)により実現されてもよい。また演算装置1は、CPU11、ROM12、およびRAM13の組み合わせの代わりに、異なる構成の組み合わせ、たとえばCPU11、ROM12、RAM13とFPGAの組み合わせにより実現されてもよい。
表示装置2はたとえば液晶ディスプレイであり、演算装置1の動作指令に基づき映像を表示する。車両センサ3は車両9の動作を測定するセンサであり、たとえば車両9の速度を測定する速度計と、ステアリングホイールの回転角度を測定する角度計とを備える。ただし車両センサ3は、車両9の位置と姿勢を算出可能な情報が得られればよく、たとえばGPSなどの衛星航法システムを構成する受信機と、姿勢角を測定するジャイロとから構成されてもよい。車両センサ3は測定して得られた情報を演算装置1に出力する。
車両制御部4は、車両9のエンジンやモータなどの動力源、制動装置、および操舵装置を制御する。ただし車両制御部4はユーザが明示した場合のみ有効に動作してもよいし、車両9に車両制御部4が備えられなくてもよい。車両制御部4は、演算装置1の出力を利用して車両9の周囲に存在する壁の存在に基づいて車両9を制御する。
カメラ5は、車両9の周囲を撮影して得られた画像を撮影画像として演算装置1に出力する。レーザ6はレーザーレンジファインダであり、少なくとも水平方向の複数の角度にレーザ光を照射し、角度ごとの障害物までの距離を障害物情報として演算装置1に出力する。なお以下では、撮影画像や障害物情報は「センサ情報」とも呼ぶ。
(機能構成)
図2は演算装置1の機能構成図である。演算装置1はその機能として、センサ情報取得部111と、車両運動量取得部112と、特徴点抽出部113と、物標点検出部115と、通路端推定部116と、路面推定部117と、閉塞判定部118と、出力制御部119とを備える。
センサ情報取得部111は、カメラ5およびレーザ6からセンサ情報を取得する。カメラ5の主なセンサ情報は、その前方の風景を撮影したカメラ画像である。レーザ6は、周囲に照射したレーザ光の反射から、レーザ光の照射方向にある物体の位置と反射強度を収集したレーザ情報を主なセンサ情報として取得する。車両運動量取得部112は、車両センサ3から車両の速度およびステアリング角度の情報を取得する。すなわち車両運動量取得部112は、自車両9の移動軌跡、時刻ごとの自車両9の位置や姿勢を特定できる。車両運動量取得部112は、自車両9の位置および姿勢をセンサ情報と照合可能なように不図示の記憶領域に保存する。たとえば車両運動量取得部112は、センサ情報にタイムスタンプが含まれる場合には自車両9の位置および姿勢を時刻情報とともに記録する。またセンサ情報に取得タイミングを示す通し番号が含まれる場合は、自車両9の位置および姿勢を時刻情報とともにその通し番号を記録する。
特徴点抽出部113は、カメラ5の撮影画像から特徴点を抽出する。特徴点とは画像における特徴的な箇所のことで、たとえば画像に映った物体のコーナー点などである。また、特徴点はその特徴によってある程度識別が可能となる。コーナー点ならコーナーの向きやその輪郭の強さがその特徴点の識別子となる。特徴点抽出部113はたとえば公知の技術であるハリスオペレータを適用することができる。ただし特徴点抽出部113は、レーザ6が出力する障害物情報をそのまま特徴点として利用してもよい。
物標点検出部115は、特徴点抽出部113が抽出した特徴点の空間座標を特定し、物標点として検出する。自車両9に付属するカメラ5ないしレーザ6の移動に対し、カメラ5の撮影画像ないしレーザ6のレーザ情報から抽出した特徴点の動きはその空間座標で決まる。そこで、物標点検出部115は、車両センサ3から取得される自車両9の移動量を参照し、特徴点抽出部113によって抽出された特徴点の動きを追跡することで、その特徴点の空間座標を導出し、この座標情報を付与した特徴点を物標点として出力する。なお、レーザ6は物体の空間座標をセンサ情報として取得可能なため、これを物標点に付与する空間座標としてもよい。ここで、物標点検出部115はたとえば、ある時刻における車両9の中心位置を原点とし、北をY軸、東をX軸、鉛直上方向をZ軸とする空間座標系を定義する。そして特徴点抽出部113が特徴点を抽出するたびに、センサ情報取得部111が取得する車両9の位置および姿勢に応じてその特徴点の空間座標系における座標を特定する。
通路端推定部116は、物標点検出部115が検出した物標点を用いて通路端を推定する。通路端推定部116は、空間座標系において連続的に並ぶ複数の物標点の間を通路端と推定する。通路端推定部116は、一直線上に並ぶ複数の物標点だけでなく、直線から所定の距離が離れている場合でもそれらの物標点の間を通路端と推定する。なお所定の距離とは、固定値でも可変値でもよい。可変値の場合は、たとえばセンサの分解能に応じて設定してもよい。また物標点同士の間隔が車両9の横幅よりも広い場合であっても、それら物標点の間を通路端と推定してもよい。なお詳しくは後述するが、通路端推定部116による通路端の推定結果が閉塞判定部118により覆されることもある。
路面推定部117は、センサ情報を用いて路面領域を推定する。路面領域の推定には、色、模様、形状、および光反射率などを利用できる。路面推定部117は、カメラ5の撮影画像において、所定の色、および/または所定の模様と一致する領域を路面として推定してもよい。路面推定部117は、物標点の高さ情報に基づき、車両9のタイヤの底面と略同一の高さであり水平方向に広がる領域を路面と推定してもよい。路面推定部117は、レーザ6の出力するセンサ情報にレーザの反射率が含まれる場合には、反射率が所定の範囲である領域を路面として推定してもよい。
閉塞判定部118は、通路端推定部116が推定した通路端の閉塞性の真偽を判定する。言い換えると閉塞判定部118は、通路端推定部116が通路端と判断した物標点間が、本当に閉塞されているか否かを判定する。閉塞判定部118は、3つの手法により通路の閉塞を判断する。第1の手法は、推定された通路端の奥に別の物標点が検出される場合は、閉塞されていないと判断する手法である。第2の手法は、推定された通路端の平面の情報が自車両9の移動に伴い変化する場合には、閉塞されていないと判断する手法である。第3の手法は、路面推定部117による推定結果を利用するものであり、推定された通路端の手前と奥の両方が路面と推定されていればその通路端は閉塞されていないと判断する手法である。3つの手法は後に詳述する。
出力制御部119は、通路端推定部116が推定した通路端であって、閉塞判定部118により推定結果が覆されなかった通路端の情報を表示装置2および車両制御部4に出力する。たとえば通路端推定部116がある通路端の存在を推定しても、閉塞判定部118がその推定を誤りと判断した場合には、出力制御部119はその通路端の情報を出力しない。
(通路端推定部116の動作例)
図3~図5は、通路端推定部116の動作を表す模式図である。図3は自車両9が走行している駐車場を上から見た図であり、図4は演算装置1による物標点の認識結果であり、図5は通路端推定部116による通路端の推定結果である。
図3に示す駐車場には、壁h11~h17、柱h21~h25、車両h31~h34が存在する。なお柱h21~h25は存在を強調するために比較的大きめに示している。壁h11~h17は凹凸および模様のない均一な壁である。壁h11~h14は一直線上に並んでおり、柱24を介して90度曲がった先に壁h15と壁h16が存在する。自車両9は図3の下部中央に存在し、図示右方向に進行する。自車両9の前方には壁h17が存在し、その壁h17の前には車両h31~h34が壁h17に前方を向けて並んで停車している。なお車両h32の右側面は、壁h11~h14のおおよそ延長線上にある。なお以下では、「壁」と「通路端」は同じ意味で用いる。
図4に示すそれぞれの丸は、物標点検出部115が検出した物標点である。なお図4では図3との対応を示すために、物標点以外を破線で示している。また柱h21~h24のそれぞれからは複数の物標点が検出されうるが、ここでは簡潔に説明するために各柱からは1つの物標点が検出されたとして説明する。物標点P21~P24のそれぞれは、柱h21~h24のそれぞれに対応する。
柱h25および車両h31は、壁h14などの存在により自車両9からは認識できないので、破線で示されている。車両h32~h34は、少なくとも車両の後方の幅方向両端が物標点として認識される。具体的には車両h32は物標点P321およびP322が認識され、車両h33は物標点P331およびP332が認識され、車両h34は物標点P341およびP342が認識される。
図5において、通路端推定部116による通路端の推定結果は太線で示すものであり、破線は図3や図4との対応を示す。物標点はすべて破線で示している。通路端推定部116は、連続的に並ぶ複数の物標点を検出すると、それらの物標点の間を通路端と推定する。そのため、物標点P21~P24の間を通路端と推定するだけでなく、偶然に直線状に並んだ物標点P24とP322の間も通路端h99と推定する。すなわち推定された通路端h99は実際には存在しない通路端であり、後述する閉塞判定部118の処理によりこの推定が取り消される。
(閉塞判定部118の動作)
閉塞判定部118が推定された通路端の真偽を推定する3つの手法を、図面を参照して説明する。なおいずれの手法も通路端の背後の情報を用いるものである。
第1の手法では閉塞判定部118は、通路端推定部116が推定した通路端の背後に物標点が存在する場合には、その通路端は閉塞されていない、すなわち通路端推定部116による推定が誤りであったと判断する。なお通路端の背後とは、推定された通路端に対してカメラ5やレーザ6とは逆側の領域である。また「通路端の背後」は、「通路端よりも奥」と言い替えることもできる。前述のように車両運動量取得部112は自車両9の位置および姿勢をセンサ情報と照合可能に保存するので、閉塞判定部118はそれぞれの物標点を取得した際の車両9の位置、すなわちカメラ5やレーザ6の位置を特定できる。
図6は、閉塞判定部118の第1の手法を説明する模式図である。図6において丸印は物標点検出部115が検出した物標点、太線は通路端推定部116が推定した通路端、一点鎖線は説明のための補助線を示す。車両9は図示下部を走行しており、ある時刻には位置9A、別な時刻には位置9Bにいた。物標点検出部115によりP411~P414、およびP420の物標点が検出され、通路端推定部116がh91~h93を通路端と推定した場合を想定する。
この場合に閉塞判定部118は、通路端推定部116が推定した通路端の背後に物標点P420が存在するので、通路端推定部116による通路端の推定に誤りがあると判断する。閉塞判定部118は、車両9が位置9Aにおいて得たセンサ情報に基づき物標点P420を検出したと判断する場合は、そのときのカメラ5やレーザ6の位置と物標点P420とを結ぶ直線と交わる通路端である通路端h91の推定が誤りと判断する。また閉塞判定部118は、車両9が位置9Bにおいて得たセンサ情報に基づき物標点P420を検出したと判断する場合は、通路端h92の推定が誤りと判断する。
なお図6において車両9の左側面から補助線が出ているのは、車両9の左側の情報を取得するカメラ5やレーザ6は、車両9の左側面に取り付けられることを想定しているためである。仮に車両9の前方にカメラ5やレーザ6が取り付けられる場合は、補助線は車両9の前方から引かれる。
図7は、閉塞判定部118の第1の手法を図5に示した通路端推定部116による通路端の推定結果に適用した結果を示す図である。図3~図5に示した例では物標点P321が検出されており、物標点P321は通路端推定部116により推定された通路端h99の奥に存在する。図7では、車両9と物標点P321とを結ぶ線分が通路端h99と交差していることがわかる。そのため閉塞判定部118は、通路端推定部116による通路端h99に関する推定が誤りであると判断する。以上が第1の手法の説明である。
第2の手法では閉塞判定部118は、通路端推定部116が推定した通路端を路面に垂直に立つ平面と仮定して車両9の移動に基づくセンサ情報の変化を算出し、実際に得られるセンサ情報の変化との乖離に基づき通路端推定部116が推定した通路端の真偽を判定する。たとえば車両9の移動前に得た撮影画像における推定された通路端の平面の領域の画像を処理対象とし、車両9の移動後との位置関係、および姿勢関係に基づき移動後の位置において得られるその通路端の領域の画像を算出する。そして閉塞判定部118は、算出した画像と実際に得られた撮影画像とを比較し、両者の乖離が所定の閾値を超えると、推定され通路端は偽物、すなわちその通路端の推定は誤りと判断する。
第3の手法では閉塞判定部118は、路面推定部117による推定結果を利用するものである。閉塞判定部118は、推定された通路端の手前と奥の両方が路面推定部117により路面と推定されていれば、その通路端は閉塞されていないと判断する。
図8は、閉塞判定部118の第3の手法を説明する模式図である。図8に示す符号は図6と同様なので説明を省略する。ただし図8におけるハッチングは、路面推定部117により路面と推定された領域を示している。この場合に閉塞判定部118は、推定された通路端h92を挟んで手前および奥が路面推定部117により路面と推定されているので、推定された通路端h92は閉塞されていない、すなわち路面推定部117による推定が誤りと判断する。
(フローチャート)
図9は、演算装置1による通路端の推定処理を示すフローチャートである。この処理は通路端を推定するシーンで常時、繰返し実行される。以下に説明する各ステップの実行主体は、CPU11である。
S601では演算装置1は、まず、センサ情報取得部111でセンサ情報を取得する。つまり、カメラ5がカメラ画像を撮影し、レーザ6がレーザ情報を取得する。そして、特徴点抽出部113を用いてこれらカメラ画像やレーザ情報から特徴点を抽出する。つづいて、物標点検出部115を用いて特徴点の空間座標を導出し、物標点を検出する。そして通路端推定部116は、三次元空間上ないし高さを除く二次元平面上で連続的に並ぶ物標点を特定し(S602)、特定した物標点の間を通路端と推定する(S603)。演算装置1は、S603において通路端と推定した物標点間のすべてを処理対象とし、処理対象を1つずつ切り替えながらS605~S615の処理を実行する。たとえば演算装置1は、図5の例において初回は通路端h11を処理対象としてS605~S615の処理を実行し、次に通路端h12を処理対象としてS605~S615の処理を実行し、以下同様に全9つの通路端を処理対象とする。
S605では演算装置1は、処理対象の物標点間が自車両9の幅よりも広いか否かを判断し、自車両9の幅よりも広いと判断する場合はS611に進み、自車両9の幅以下であると判断する場合はS620に進む。S611では演算装置1は、物標点間の奥に別の物標点が存在するか否かを判断し、別の物標点が存在すると判断する場合はS615に進み、別の物標点が存在しないと判断する場合はS612に進む。S612では演算装置1は、推定された通路端を路面に垂直な平面と仮定し、また、前記センサ情報のうちこの通路端の方向に現れたものはこの平面上にあるものとして、車両9が移動した後のセンサ情報を車両移動量に基づいて算出する。その算出結果と実際のセンサ情報の乖離を評価する。乖離があれば、この通路端の方向にあるセンサ情報は通路端の平面上にないことなる。演算装置1は、両者の乖離が閾値よりも大きいと判断する場合はS615に進み、乖離が閾値以下と判断する場合はS613に進む。
S613では演算装置1は、路面推定部117による推定結果を利用し、処理対象の物標点間の手前と奥の両方が路面と推定されているか否かを判断する。演算装置1は、その両方が路面と推定されていると判断する場合はS615に進み、少なくとも一方が路面ではないと推定されていると判断する場合はS620に進む。S615では閉塞判定部118は、処理対象の物標点間について通路端とする通路端推定部116の推定を取り消してS620に進む。なお、S611、S612、およびS613のそれぞれは、閉塞判定部118の第1の手法、第2の手法、および第3の手法のそれぞれに対応する。
S620では演算装置1は、S603において通路端と推定されたすべての物標点間をS605~S615の処理対象としたか否かを判断する。演算装置1は未処理の物標点間が存在すると判断する場合は、処理対象を未処理の物標点間のいずれかに設定してS605に戻り、全ての物標点間を処理対象としたと判断する場合は図9に示す処理を終了する。
上述した実施の形態によれば、次の作用効果が得られる。
(1)演算装置1は、車両9に搭載されて車両9の周囲の情報をセンサ情報として収集するカメラ5およびレーザ6からセンサ情報を取得するセンサ情報取得部111と、センサ情報を用いて物体の特徴点を抽出する特徴点抽出部113と、特徴点抽出部113が抽出した特徴点の位置を空間座標で表し、物標点として検出する物標点検出部115と、連続的に並ぶ物標点の間を通路端と推定する通路端推定部116と、通路端推定部116が推定した通路端を取り消すか否かを、センサ情報から得られる推定した通路端の背後の情報に基づき判定する閉塞判定部118とを備える。通路端の背後とは、推定された通路端に対してセンサとは逆側の領域である。そのため、壁面の情報が十分に得られない場合に簡易に推定した通路端の真偽を判断できる。
(2)閉塞判定部118は第1の手法では、推定した通路端の背後に物標点が存在する場合は、推定された通路端を取り消すと判定する。そのため物標点と車両の位置関係を利用して通路端推定部116の推定を評価できる。
(3)閉塞判定部118は、図7に示す通路端h99のように通路端推定部116により推定された通路端から、物標点P321のように推定した通路端の背後に物標点までの領域を走行可能な領域として判定する。そのため閉塞判定部118は通路端の有無だけでなく車両9が走行可能な領域の情報も出力し、車両9の制御やドライバーへの情報提供に資することができる。
(4)演算装置1は、車両9の移動の方向および距離を車両移動量として取得する車両運動量取得部112を備える。閉塞判定部118は第2の手法では、推定した通路端を路面に垂直な平面と仮定し、センサ情報のうち当該通路端の方向に現れたものを当該平面上にあるものとして、車両移動量に基づき算出された車両移動後における当該平面上のセンサ情報と実際に得られたセンサ情報とに基づき通路端推定部が推定した通路端の真偽を判定する。そのため特徴点が得られない場合でも通路端を取り消すか否かを判定できる。
(5)演算装置1は、センサ情報に基づき車両の周辺における車両9が走行可能な路面の位置を推定する路面推定部117を備える。閉塞判定部118は、通路端推定部116が推定した通路端を挟んで手前および奥が路面推定部117により路面と推定される場合に、推定された通路端を取り消すと判定する。そのため路面推定技術を利用して通路端の真偽を判定できる。
(変形例1)
上述した実施の形態では閉塞判定部118は第1、第2、および第3の手法を備えた。しかし閉塞判定部118は少なくともいずれか1つの手法を備えていればよい。
(変形例2)
閉塞判定部118は、図9のS611~S613に示したように、第1~第3のいずれか1つの手法により通路端推定部116の推定が否定されると通路端推定部116の推定を取り消した。しかし2つ以上の手法により通路端推定部116の推定が否定された場合のみ通路端推定部116の推定を取りしてもよい。
(変形例3)
閉塞判定部118は第2の手法において、カメラ5の出力する撮影画像が、車両9の移動の前後で一致しない場合には通路端推定部116が推定する通路端が偽物、すなわち真の通路端ではないと判断してもよい。たとえば模様などがない一様な壁であれば、異なる角度から撮影しても同様の映像が得られると考えられるからである。
本変形例によれば次の作用効果が得られる。
(6)閉塞判定部118は、推定した通路端を路面に垂直な平面と仮定し、撮影画像のうち当該平面の方向にある画像は当該平面の空間座標上にあるものとして、車両移動量に基づいて車両移動後における当該平面上の画像を算出し、当該画像と車両の移動の前後で実際に車両移動後に撮影された撮影画像とに基づき推定された通路端を取り消すか否かを判定する。そのため閉塞判定部118は、推定された通路端の真偽を簡易に判断できる。
(変形例4)
上述した実施の形態では、閉塞判定部118の第1の手法において高さ方向を考慮していなかった。しかし閉塞判定部118は第1の手法において高さ方向を考慮してもよい。この場合にはまず、通路端推定部116が既知の手法により通路端の高さを推定する。そして閉塞判定部118は、車両9に搭載されるセンサと推定された通路端の奥に存在する物標点とを結ぶ直線が、推定された通路端と交わるか否かを判断する。閉塞判定部118は、両者が交わる場合には通路端推定部116による推定が誤りと判断し、両者が交わらない場合には通路端推定部116による推定が誤りとは判断しない。
図10および図11は、変形例4における閉塞判定部118の第1の手法を説明する図である。図10は、実施の形態における図7を横から見た図に相当する。物標点P321が図示下部のP321Aに示す位置の場合は、物標点P321とセンサとを結ぶ線分は通路端h99と交わるので、通路端推定部116による通路端h99の推定は誤りと判断される。物標点P321が図示上部のP321Bに示す位置の場合は、物標点P321とセンサとを結ぶ線分は通路端h99と交わらないので、通路端推定部116による通路端h99の推定は誤りではないと判断される。
図11は図10を異なる角度から見た図であり、カメラ5の撮影画像から物標点P321の周囲を切り取った画像に相当する。図11に示すようにセンサとしてカメラ5を用いる場合には、撮影画像において、推定された通路端h99の領域と物標点P321の位置が重複するか否かを判断すればよい。
(変形例5)
車両9は、表示装置2および車両制御部4の少なくとも一方を備えなくてもよい。車両9はカメラ5およびレーザ6の少なくとも一方を備えなくてもよい。車両9はカメラ5およびレーザ6の代わりに他のセンサ、たとえば超音波センサなどを備えてもよい。
上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
1…演算装置
2…表示装置
3…車両センサ
4…車両制御部
5…カメラ
6…レーザ
9…車両
111…センサ情報取得部
112…車両運動量取得部
113…特徴点抽出部
114…特徴点追跡部
115…物標点検出部
116…通路端推定部
117…路面推定部
118…閉塞判定部
119…出力制御部

Claims (5)

  1. 車両に搭載されて車両の周囲の情報をセンサ情報として収集するセンサから前記センサ情報を取得するセンサ情報取得部と、
    前記センサ情報を用いて物体の特徴点を抽出する特徴点抽出部と、
    前記特徴点抽出部が抽出した前記特徴点の位置を空間座標で表し、物標点として検出する物標点検出部と、
    連続的に並ぶ前記物標点の間を通路端と推定する通路端推定部と、
    前記通路端推定部が推定した通路端を取り消すか否かを、前記センサ情報から得られる前記推定した通路端の背後の情報に基づき判定する閉塞判定部とを備え、
    前記通路端の背後とは、推定された前記通路端に対して前記センサとは逆側の領域であり、
    前記閉塞判定部は、前記推定した通路端の背後に前記物標点が存在する場合は、推定された前記通路端を取り消すと判定する演算装置。
  2. 請求項1に記載の演算装置において、
    前記閉塞判定部は、推定された前記通路端から前記推定した通路端の背後前記物標点までの領域を走行可能な領域として判定する演算装置。
  3. 請求項1に記載の演算装置において、
    前記車両の移動の方向および距離を車両移動量として取得する車両運動量取得部をさらに備え、
    前記閉塞判定部は、前記推定した通路端を路面に垂直な平面と仮定し、前記センサ情報のうち当該通路端の方向に現れたものを当該平面上にあるものとして、前記車両移動量に基づき算出された車両移動後における当該平面上の前記センサ情報と実際に得られた前記センサ情報と、に基づき前記通路端推定部が推定した通路端を取り消すか否かを判定する演算装置。
  4. 請求項1に記載の演算装置において、
    前記車両の移動の方向および距離を車両移動量として取得する車両運動量取得部をさらに備え、
    前記センサはカメラであり、
    前記センサ情報は前記カメラが撮影して得られた撮影画像であり、
    前記閉塞判定部は、前記推定した通路端を路面に垂直な平面と仮定し、前記撮影画像のうち当該平面の方向にある画像は当該平面の空間座標上にあるものとして、前記車両移動量に基づいて車両移動後における当該平面上の画像を算出し、当該画像と実際に車両移動後に撮影された前記撮影画像と、に基づき推定された前記通路端を取り消すか否かを判定する演算装置。
  5. 請求項1に記載の演算装置において、
    前記センサ情報に基づき前記車両の周辺における前記車両が走行可能な路面の位置を推定する路面推定部をさらに備え、
    前記閉塞判定部は、前記推定した通路端を挟んで手前および奥が前記路面推定部により前記路面と推定される場合に、推定された前記通路端を取り消す、と判定する演算装置。
JP2019014740A 2019-01-30 2019-01-30 演算装置 Active JP7281289B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019014740A JP7281289B2 (ja) 2019-01-30 2019-01-30 演算装置
CN202010076310.7A CN111507173B (zh) 2019-01-30 2020-01-23 运算装置
US16/776,165 US11205081B2 (en) 2019-01-30 2020-01-29 Arithmetic apparatus
EP20154329.5A EP3690401A1 (en) 2019-01-30 2020-01-29 Arithmetic apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019014740A JP7281289B2 (ja) 2019-01-30 2019-01-30 演算装置

Publications (2)

Publication Number Publication Date
JP2020123154A JP2020123154A (ja) 2020-08-13
JP7281289B2 true JP7281289B2 (ja) 2023-05-25

Family

ID=69400420

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019014740A Active JP7281289B2 (ja) 2019-01-30 2019-01-30 演算装置

Country Status (4)

Country Link
US (1) US11205081B2 (ja)
EP (1) EP3690401A1 (ja)
JP (1) JP7281289B2 (ja)
CN (1) CN111507173B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116075410A (zh) 2020-07-17 2023-05-05 日精Asb机械株式会社 操作异常检测方法、制造树脂容器的方法、操作异常检测装置、制造树脂容器的装置以及制造树脂预制件的装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005524166A (ja) 2002-04-27 2005-08-11 ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング 車両のコース予測方法及びその装置
US20100098297A1 (en) 2008-04-24 2010-04-22 Gm Global Technology Operations, Inc. Clear path detection using segmentation-based method
JP2012233713A (ja) 2011-04-28 2012-11-29 Toyota Motor Corp 道路形状推定装置
JP2014157469A (ja) 2013-02-15 2014-08-28 Aisin Aw Co Ltd 道路端検出システム、方法およびプログラム
US20150063648A1 (en) 2013-08-29 2015-03-05 Denso Corporation Method and apparatus for recognizing road shape
JP2020119056A (ja) 2019-01-21 2020-08-06 株式会社Soken 車両における対象物検出装置、対象物検出システムおよび対象物検出方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3645177B2 (ja) * 2000-11-29 2005-05-11 三菱電機株式会社 車両周辺監視装置
JP2008191781A (ja) * 2007-02-01 2008-08-21 Hitachi Ltd 衝突回避システム
JP2011517632A (ja) * 2008-02-20 2011-06-16 コンチネンタル・テーヴエス・アクチエンゲゼルシヤフト・ウント・コンパニー・オツフエネハンデルスゲゼルシヤフト 車両の周辺にある物体を検出する方法及び援助システム
JP5618744B2 (ja) * 2010-05-26 2014-11-05 三菱電機株式会社 道路形状推定装置及びコンピュータプログラム及び道路形状推定方法
JP5830876B2 (ja) * 2011-02-18 2015-12-09 富士通株式会社 距離算出プログラム、距離算出方法及び距離算出装置
MX359042B (es) * 2014-10-22 2018-09-13 Nissan Motor Dispositivo de cálculo de la ruta de desplazamiento.
US10800406B2 (en) 2014-12-26 2020-10-13 Komatsu Ltd. Mining machine, management system of mining machine, and management method of mining machine
JP6447639B2 (ja) * 2015-01-05 2019-01-09 日産自動車株式会社 目標経路生成装置および走行制御装置
CN108519605B (zh) * 2018-04-09 2021-09-07 重庆邮电大学 基于激光雷达和摄像机的路沿检测方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005524166A (ja) 2002-04-27 2005-08-11 ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング 車両のコース予測方法及びその装置
US20100098297A1 (en) 2008-04-24 2010-04-22 Gm Global Technology Operations, Inc. Clear path detection using segmentation-based method
JP2012233713A (ja) 2011-04-28 2012-11-29 Toyota Motor Corp 道路形状推定装置
JP2014157469A (ja) 2013-02-15 2014-08-28 Aisin Aw Co Ltd 道路端検出システム、方法およびプログラム
US20150063648A1 (en) 2013-08-29 2015-03-05 Denso Corporation Method and apparatus for recognizing road shape
JP2020119056A (ja) 2019-01-21 2020-08-06 株式会社Soken 車両における対象物検出装置、対象物検出システムおよび対象物検出方法

Also Published As

Publication number Publication date
US11205081B2 (en) 2021-12-21
CN111507173B (zh) 2024-04-05
EP3690401A1 (en) 2020-08-05
US20200242372A1 (en) 2020-07-30
CN111507173A (zh) 2020-08-07
JP2020123154A (ja) 2020-08-13

Similar Documents

Publication Publication Date Title
JP6800168B2 (ja) 走行レーンを推定するための方法
EP3324152B1 (en) Own-position estimating device and own-position estimating method
EP1403660B1 (en) Vehicle surroundings monitoring apparatus and traveling control system incorporating the apparatus
KR102085494B1 (ko) 차량 제어 방법 및 차량 제어 장치
US20180286095A1 (en) Display Assistance Device and Display Assistance Method
US10576967B2 (en) Parking assistance device and parking assistance method
KR101529156B1 (ko) 지면의 경사 추출 시스템 및 이를 이용한 차량
KR101558756B1 (ko) 카메라 영상정보와 센서정보를 융합하여 차선을 인지하는 차선 감지 방법 및 장치
US11351986B2 (en) In-vehicle processing apparatus
JP2007300181A (ja) 周辺認識装置、周辺認識方法、プログラム
CA3069117C (en) Parking assistance method and parking assistance device
CN105830131A (zh) 用于检测行人相对于车辆轨迹的侧向位置的装置
GB2558752A (en) Vehicle vision
US11285953B2 (en) Determining visibility distances based on a dynamic field of view of a vehicle
CN105205805A (zh) 基于视觉的智能车辆横向控制方法
CN105480227A (zh) 主动驾驶技术中基于红外雷达与视频图像信息融合的方法
CN111412922A (zh) 定位技术
JP7281289B2 (ja) 演算装置
US11420633B2 (en) Assisting the driving of an automotive vehicle when approaching a speed breaker
JP6609292B2 (ja) 車外環境認識装置
WO2017013692A1 (ja) 走行車線判定装置及び走行車線判定方法
JP2006047057A (ja) 車外監視装置、及び、この車外監視装置を備えた走行制御装置
JP7216695B2 (ja) 周囲車両監視装置及び周囲車両監視方法
JP6604052B2 (ja) 走路境界推定装置及び走路境界推定方法
JP2019032607A (ja) 駐車支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230515

R150 Certificate of patent or registration of utility model

Ref document number: 7281289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150