JP2020108979A - Monitoring device - Google Patents

Monitoring device Download PDF

Info

Publication number
JP2020108979A
JP2020108979A JP2018248795A JP2018248795A JP2020108979A JP 2020108979 A JP2020108979 A JP 2020108979A JP 2018248795 A JP2018248795 A JP 2018248795A JP 2018248795 A JP2018248795 A JP 2018248795A JP 2020108979 A JP2020108979 A JP 2020108979A
Authority
JP
Japan
Prior art keywords
image
track
shield
determination frame
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018248795A
Other languages
Japanese (ja)
Other versions
JP7290942B2 (en
Inventor
章紘 木村
Akihiro Kimura
章紘 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Signal Co Ltd
Original Assignee
Nippon Signal Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Signal Co Ltd filed Critical Nippon Signal Co Ltd
Priority to JP2018248795A priority Critical patent/JP7290942B2/en
Publication of JP2020108979A publication Critical patent/JP2020108979A/en
Application granted granted Critical
Publication of JP7290942B2 publication Critical patent/JP7290942B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Train Traffic Observation, Control, And Security (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Image Analysis (AREA)

Abstract

To provide a monitoring device which has improved detection accuracy of an obstacle by a direct method.SOLUTION: A monitoring device 100 comprises: a second measuring part 42 which acquires, together with distance information, an image of an object in a railroad RL functioning as a track and the periphery of the track; and an arithmetic processing part 101 which extracts a track image from the measurement result of the second measuring part 42, and serves as an arrangement determination part for determining whether or not a shield body CO2 screening the track image is present in front including a vanishing point VP of the track image.SELECTED DRAWING: Figure 6

Description

本発明は、鉄道その他の交通設備において軌道上やその周辺に存在する障害物を監視する監視装置に関する。 The present invention relates to a monitoring device for monitoring an obstacle existing on or near a track in railways and other transportation equipment.

障害物の監視に利用可能な画像処理装置として、ステレオ画像をマッチング処理して前方物体までの距離を与える視差を算出するステレオ画像処理装置であって、基準画像の基準点と同じ座標となる対応画像上の点を検出して一次対応点とし、その一次対応点から同じ走査線上をレール抽出による視差だけずらした点を二次対応点とし、その二次対応点から対応画像の左右にマッチング処理を行って相関値を算出するものが存在する(特許文献1参照)。 An image processing device that can be used for monitoring an obstacle is a stereo image processing device that performs a matching process on a stereo image to calculate a parallax that gives a distance to a front object, and has the same coordinates as the reference point of the reference image. A point on the image is detected as a primary corresponding point, and a point obtained by shifting the same scanning line on the same scanning line by the parallax extracted by rail extraction is used as a secondary corresponding point, and matching processing is performed from the secondary corresponding point to the left and right of the corresponding image. There is one that calculates the correlation value by performing the above (see Patent Document 1).

また、鉄道の障害物用の監視装置として、観測画像データと背景画像データとの差分を算出し、両者の画素値の相違度が大きい前景領域を検出するとともに、前景領域が検出された観測画像データに対して軌道検出処理を施して軌道軸に対する前景領域内の点の位置又は軌跡を求めることにより、前景領域内の点が建築限界内に存在するか否かを判定するものが存在する(特許文献2参照)。 Further, as a monitoring device for railway obstacles, the difference between the observed image data and the background image data is calculated, and the foreground region in which the difference in pixel value between the two is large is detected, and the observed image in which the foreground region is detected. There is a device that determines whether or not a point in the foreground region is within the building limit by performing a trajectory detection process on the data and obtaining the position or trajectory of the point in the foreground region with respect to the trajectory axis ( See Patent Document 2).

道路において遠方の障害物を検出する装置として、撮影された画像から遠方領域を拡大して拡大画像を生成し、時間的に前後する拡大画像を比較する際に、時間的に前の拡大画像を該移動距離に応じた変換拡大画像に変換し、拡大画像と変換された変換拡大画像とを比較して両画像の異なる点を障害物として検出するものが存在する(特許文献3参照)。この装置では、拡大画像を生成するために、消失点を用いて画像領域の抽出等を行う。 As a device for detecting distant obstacles on a road, it generates a magnified image by enlarging a distant region from a captured image, and when comparing magnified images that are temporally preceding and following, the magnified image that is previous in time is used. There is an apparatus that converts a converted enlarged image according to the moving distance, compares the enlarged image and the converted converted enlarged image, and detects a different point between the two images as an obstacle (see Patent Document 3). In this device, in order to generate an enlarged image, the vanishing point is used to extract an image region or the like.

しかしながら、特許文献1の場合、視差によって前方の障害物までの距離を判定できるが、視差だけに頼ることになり、障害物の検出精度を高めることは容易でない。また、特許文献2の場合、建築限界内に前景領域の点が存在することを検出できるが、背景画像データを得るための事前走行が不可欠になるだけでなく、膨大な背景画像データを保持しておく必要がある。特許文献3の場合、異なるタイミングで画像を取得する必要があり、障害物検出が煩雑で間接的なものとなる。 However, in the case of Patent Document 1, the distance to the obstacle ahead can be determined by the parallax, but since it depends only on the parallax, it is not easy to improve the detection accuracy of the obstacle. In addition, in the case of Patent Document 2, it is possible to detect the presence of a point in the foreground region within the building limit, but not only pre-driving for obtaining the background image data is indispensable, but also enormous background image data is held. Need to be kept. In the case of Patent Document 3, it is necessary to acquire images at different timings, which makes obstacle detection complicated and indirect.

特開2016−192106号公報JP, 2016-192106, A 特開2016−52849号公報JP, 2016-52849, A 特開2011−170568号公報JP, 2011-170568, A

本発明は上記した点に鑑みてなされたものであり、直接的な手法によって障害物の検出精度を高めた監視装置を提供することを目的とする。 The present invention has been made in view of the above points, and an object of the present invention is to provide a monitoring device in which the obstacle detection accuracy is improved by a direct method.

上記目的を達成するため、本発明に係る監視装置は、軌道及びその周辺における物体の像を距離情報とともに取得する計測部と、計測部による測定結果から軌道像を抽出するとともに、軌道像の消失点を含む手前に軌道像を遮蔽する遮蔽体が存在するか否かを判断する配置判定部とを備える。 In order to achieve the above object, the monitoring device according to the present invention, a measurement unit that acquires an image of an object in the trajectory and its surroundings together with distance information, and extracts a trajectory image from the measurement result by the measurement unit, and disappears the trajectory image. An arrangement determination unit that determines whether or not there is a shield that shields the orbit image in front of the point.

上記監視装置では、配置判定部が軌道像の消失点を含む手前に軌道像を遮蔽する遮蔽体が存在するか否かを判断するので、軌道像を正確に取得できていることを確認しつつ軌道像を局所的に遮蔽する遮蔽体の存否を距離情報とともに得ることができる。これにより、予め背景画像データを取得するまでもなく障害物となる遮蔽体を検出することができ、障害物の検出精度を高めることができる。 In the above monitoring device, the placement determination unit determines whether or not there is a shield that shields the orbital image before the vanishing point of the orbital image, thus confirming that the orbital image can be acquired accurately. The presence or absence of a shield that locally shields the orbit image can be obtained together with the distance information. As a result, it is possible to detect the obstacle that becomes an obstacle without acquiring background image data in advance, and it is possible to improve the detection accuracy of the obstacle.

本発明の具体的な側面では、配置判定部は、遮蔽体と遮蔽体に対応する軌道位置との距離差が所定以下である場合に、遮蔽体を障害物であると判断する。この場合、遮蔽体と軌道との距離が近い場合に限って障害物と判断することで、例えば走行を妨げない前景物体を判定対象から除くことができ、障害物判定精度を高めることができる。 In a specific aspect of the present invention, the placement determination unit determines that the shield is an obstacle when the distance difference between the shield and the track position corresponding to the shield is less than or equal to a predetermined value. In this case, by determining that the obstacle is an obstacle only when the distance between the shield and the track is short, it is possible to exclude, for example, a foreground object that does not hinder traveling from the determination target, and improve the obstacle determination accuracy.

本発明の別の側面では、配置判定部は、所定の配置判定枠内に遮蔽体が存在する場合に、遮蔽体を障害物であると判断する。この場合、配置判定枠によって列車が通過する領域に検出範囲を絞ることができ、障害物の判定範囲が過度に広がることを防止できる。 In another aspect of the present invention, the placement determination unit determines that the shield is an obstacle when the shield is present within a predetermined placement determination frame. In this case, it is possible to limit the detection range to the area where the train passes by the arrangement determination frame, and it is possible to prevent the obstacle determination range from being excessively widened.

本発明のさらに別の側面では、消失点は、軌道像上で軌道間隔が所定以下になった点である。この場合、消失点は所定以上遠方にあるものとなる。消失点が所定以上遠方にない場合、軌道が近い場所で現実に又は画像上で途切れていることになり、軌道が終端していたり軌道の計測に異常が発生したりしている可能性がある。 In still another aspect of the present invention, the vanishing point is a point on the orbital image where the orbital intervals are less than or equal to a predetermined value. In this case, the vanishing point is located at a predetermined distance or more. If the vanishing point is not more than a predetermined distance away, it means that the trajectory is discontinuous near the actual location or in the image, and the trajectory may be terminated or an abnormality may occur in the measurement of the trajectory. ..

本発明のさらに別の側面では、配置判定部は、所定の配置判定枠内に近づく接近物体が存在するか否かを判断する。この場合、障害物判定を支援する付加情報として、接近物体による障害物発生の予測が可能となる。 In still another aspect of the present invention, the placement determination unit determines whether or not there is an approaching object approaching within a predetermined placement determination frame. In this case, it is possible to predict the occurrence of an obstacle due to the approaching object as additional information that assists the obstacle determination.

本発明のさらに別の側面では、配置判定部は、所定の配置判定枠外の物体の移動速度及び移動方向を判定する。この場合、接近物体の移動状態を詳細に把握した判断が可能になる。 In still another aspect of the present invention, the placement determination unit determines the moving speed and the moving direction of the object outside the predetermined placement determination frame. In this case, it is possible to make a detailed determination of the moving state of the approaching object.

本発明のさらに別の側面では、配置判定部は、軌道像の消失点を抽出できなかった場合、視界不良状態と判定する。消失点を抽出できない原因として、雨、雪、霧による視界不良があり、視界不良を副次的な運転関連情報として利用することができる。 In still another aspect of the present invention, the arrangement determining unit determines that the visibility is in a poor state when the vanishing point of the orbit image cannot be extracted. The reason why the vanishing point cannot be extracted is poor visibility due to rain, snow, and fog, and the poor visibility can be used as secondary driving-related information.

本発明のさらに別の側面では、配置判定部は、軌道上の位置情報とリンクさせて消失点となり得ない特異点に関する情報を保管し、消失点の候補から特異点に対応するものを除外する。この場合、例えば軌道の終端のような特異点を消失点と判断するような、消失点の誤検出を防止することができる。 In still another aspect of the present invention, the placement determining unit stores information regarding a singular point that cannot be a vanishing point by linking with position information on an orbit, and excludes candidates corresponding to the singular point from vanishing point candidates. .. In this case, it is possible to prevent erroneous detection of a vanishing point such as determining a singular point such as the end of the trajectory as a vanishing point.

本発明のさらに別の側面では、配置判定部は、特異点に関する情報を更新しつつ保管する。監視装置の運用によって特異点に関する情報を蓄積しつ現状に適合させることができる。 In still another aspect of the present invention, the arrangement determining unit stores the information regarding the singularity while updating the information. By operating the monitoring device, it is possible to accumulate information regarding singular points and adapt it to the current situation.

本発明のさらに別の側面では、計測部は、物体について3次元的な配置を計測可能にするカメラ又はレーザーレーダー装置を有する。この場合、軌道像の抽出、遮蔽体の判定等に必要な情報の正確な計測が可能になる。 In still another aspect of the present invention, the measuring unit has a camera or a laser radar device that enables measurement of a three-dimensional arrangement of an object. In this case, it is possible to accurately measure the information necessary for extracting the orbital image and determining the shield.

本発明のさらに別の側面では、物体の方位及び距離を計測するためのレーダー装置又はレーザーレーダー装置の出力に基づいて、軌道に沿った走行位置に応じて設定される所定の存在判定枠内に存在する物体を検出する存在判定部をさらに備える。この場合、存在判定枠内の物体を検出する存在判定部(第2判定部)を配置判定部(第1判定部)とは別に追加することで、配置判定部を補間しつつ判定の信頼性を高めることができる。 In still another aspect of the present invention, based on the output of a radar device or a laser radar device for measuring the azimuth and distance of an object, within a predetermined existence determination frame set according to the traveling position along the trajectory. A presence determination unit that detects an existing object is further provided. In this case, by adding a presence determination unit (second determination unit) that detects an object in the presence determination frame separately from the placement determination unit (first determination unit), the reliability of the determination can be performed while interpolating the placement determination unit. Can be increased.

列車に搭載された実施形態の監視装置を説明する概念的なブロック図である。It is a conceptual block diagram explaining the monitoring apparatus of embodiment mounted in the train. 監視装置の本体を説明する概念的なブロック図である。It is a conceptual block diagram explaining the main body of a monitoring apparatus. (A)及び(B)は、存在判定部及び広域判定部による判定範囲を説明する概念的な側面図及び正面図である。(A) And (B) is a conceptual side view and front view explaining the determination range by the presence determination unit and the wide area determination unit. (A)は、存在判定部による判定枠の変形例を説明する図であり、(B)及び(C)は、配置判定部による判定枠の詳細を説明する図である。(A) is a figure explaining the modification of the determination frame by an existence determination part, (B) and (C) are the figures explaining the details of the determination frame by an arrangement|positioning determination part. (A)及び(B)は、直線的な線路での消失点の検出方法を説明する概念図であり、(C)及び(D)は、湾曲した線路での消失点の検出方法を説明する概念図であり、(E)及び(F)は、広域判定枠を構成する配置判定枠等の設定方法を説明する概念図である。(A) And (B) is a conceptual diagram explaining the detection method of the vanishing point in a linear line, (C) and (D) demonstrates the detection method of the vanishing point in a curved line. It is a conceptual diagram, and (E) and (F) are conceptual diagrams explaining the setting method of the arrangement|positioning determination frame etc. which comprise a wide area determination frame. (A)は、線路を遮る遮蔽体のうち障害物とならないものを含む2次元画像図であり、(B)は、線路を遮る遮蔽体のうち障害物となるものを含む2次元画像図であり、(C)は、線路を遮るものではないが遮蔽体に準じた障害物として扱うべきものを説明する図である。(A) is a two-dimensional image diagram including a shield that blocks a line that does not become an obstacle, and (B) is a two-dimensional image diagram that includes a shield that blocks an obstacle that becomes an obstacle. Yes, (C) is a diagram for explaining what is to be treated as an obstacle that does not obstruct the line but conforms to the shield. 広域判定枠のうち近接判定枠において線路に近づく接近物体が存在するか否かを判断する手法を説明する図である。It is a figure explaining the method of judging whether the approaching object which approaches a track exists in a proximity judgment frame among wide-area judgment frames. (A)〜(D)は、消失点の信頼性を確認する手法を説明する図である。(A)-(D) is a figure explaining the method of confirming the reliability of a vanishing point. (A)及び(B)は、特異点の識別を説明する図である。(A) And (B) is a figure explaining identification of a singular point. 監視装置による監視動作を説明するフローチャートである。7 is a flowchart illustrating a monitoring operation performed by the monitoring device.

図1に示すように、本発明の一実施形態としての監視装置100は、列車TRに組み込まれた車上装置200の一部となっている。 As shown in FIG. 1, a monitoring device 100 as an embodiment of the present invention is a part of an on-board device 200 incorporated in a train TR.

監視装置100は、各部の動作を統括に制御する車両制御装置31と、列車TRの現在速度を検出する車速検出部34と、線路RL側に設けた地上子との間で通信を行って線路RL上の列車TRの位置を検出する車上子35と、不図示の列車運行管理システム又は指令所との間で通信を可能にする通信部37と、列車TRの前方の物体を検出する計測を行う第1計測部41と、軌道としての線路RL及びその周辺における物体の像を距離情報とともに取得する第2計測部42とを備える。後者の第2計測部42は、列車TRの前方及びその周辺の物体を検出するための計測を行うものである。車上装置200は、監視装置100を構成する上記要素31,34,35,37,41,42のほかに、列車TRを加速するためのモーター等からなる駆動装置32と、列車TRを減速するためのブレーキ装置33と、乗客等に向けて各種情報を伝達するための報知手段であるスピーカーや表示部といった車内出力部36とを備える。 The monitoring device 100 communicates with the vehicle control device 31 that controls the operation of each part in an integrated manner, the vehicle speed detection part 34 that detects the current speed of the train TR, and the ground element provided on the line RL side to communicate with each other. An on-board child 35 that detects the position of the train TR on the RL, a communication unit 37 that enables communication between a train operation management system (not shown) or a command station, and measurement that detects an object in front of the train TR. And a second measuring unit 42 that acquires an image of an object on the track RL as a track and its surroundings together with distance information. The latter second measuring unit 42 performs measurement for detecting objects in front of and around the train TR. The on-board device 200 decelerates the train TR and a drive device 32 including a motor for accelerating the train TR, in addition to the elements 31, 34, 35, 37, 41, 42 constituting the monitoring device 100. And a vehicle output unit 36 such as a speaker or a display unit which is a notification unit for transmitting various information to passengers and the like.

車両制御装置31は、運転手等の指示に基づいて列車TRの各部を動作させ、列車TRの適切な速度での走行や適切なタイミングでの停止を可能にするとともに、緊急時の自動列車停止機能を有する。車両制御装置31は、車速検出部34を利用した積算距離と車上子35を利用した較正とによって、列車TRの現在の走行位置を把握している。車両制御装置31は、第1計測部41と連携して動作し第2判定部(存在判定部)を構成する。つまり、車両制御装置31は、第1計測部41を利用して軌道又は線路RLに沿った走行位置に応じて設定される所定の存在判定枠内に存在する物体を検出する。さらに、車両制御装置31は、第2計測部42と連携して動作し第1判定部(配置判定部)を構成する。つまり、車両制御装置31は、第2計測部42を利用して軌道又は線路RLの周辺における物体の像及び距離情報を含む測定結果から軌道像を抽出するとともに、軌道像の消失点を含む手前に軌道像を遮蔽する遮蔽体が存在するか否かを判断する。 The vehicle control device 31 operates each part of the train TR based on an instruction from a driver or the like to enable the train TR to travel at an appropriate speed or to stop at an appropriate timing, and to automatically stop the train in an emergency. Have a function. The vehicle control device 31 grasps the current traveling position of the train TR by the integrated distance using the vehicle speed detection unit 34 and the calibration using the car upper 35. The vehicle control device 31 operates in cooperation with the first measurement unit 41 to configure a second determination unit (presence determination unit). That is, the vehicle control device 31 uses the first measurement unit 41 to detect an object existing within a predetermined existence determination frame set according to the traveling position along the track or the track RL. Further, the vehicle control device 31 operates in cooperation with the second measurement unit 42 to form a first determination unit (arrangement determination unit). That is, the vehicle control device 31 extracts the track image from the measurement result including the image of the object and the distance information around the track or the track RL by using the second measurement unit 42, and the front side including the vanishing point of the track image. It is determined whether or not there is a shield that shields the orbit image.

列車TRの現在の走行位置については、上記のように車速検出部34を利用するものに限らず、レーダーその他の測距装置を用いた計測に際してドップラー効果を監視することによる速度値、GPS信号のドップラー効果を利用した速度値等に基づくものとしてもよい。その他、RFIDを利用した位置検出、みちびきその他の衛星測位による位置検出も可能である。 The current travel position of the train TR is not limited to the one using the vehicle speed detection unit 34 as described above, but the speed value and GPS signal of the GPS signal obtained by monitoring the Doppler effect at the time of measurement using a radar or other distance measuring device. It may be based on a speed value or the like using the Doppler effect. In addition, position detection using RFID and position detection by satellite positioning such as Michibiki are also possible.

図2に示すように、車両制御装置31は、演算処理部101と、記憶部102と、入出力部103と、インターフェース部104とを備える。車両制御装置31は、具体的には、走行制御用のプログラムを搭載したコンピューターを含み、走行制御用のプログラムには、一般的制御プログラムのほかに障害物等監視用のプログラムが付加されている。車両制御装置31又は車上装置200は、列車TRの走行状態の制御を基本的な役割又は動作とするものであるが、以下では、車両制御装置31等を主に障害物等の監視機能の側面から説明する。 As shown in FIG. 2, the vehicle control device 31 includes an arithmetic processing unit 101, a storage unit 102, an input/output unit 103, and an interface unit 104. The vehicle control device 31 specifically includes a computer in which a program for traveling control is installed, and the program for traveling control is added with a program for monitoring obstacles in addition to a general control program. .. The vehicle control device 31 or the on-board device 200 has a basic role or operation to control the traveling state of the train TR, but in the following, the vehicle control device 31 and the like mainly have a function of monitoring obstacles and the like. It will be explained from the side.

演算処理部101は、記憶部102に保管されたプログラムやデータに基づいて動作し、入出力部103やインターフェース部104から得た情報に基づいて処理を行い、処理の経過や結果を記憶部102に保管するとともに入出力部103に提示する。また、演算処理部101は、存在判定部として、プログラム等に基づいてインターフェース部104を介して第1計測部41を動作させ、図3(A)に示すように線路RLに沿って軌間幅等に対応するサイズを有する所定の存在判定枠AR1内に存在する障害物を監視する。また、演算処理部101は、配置判定部として、プログラム等に基づいてインターフェース部104を介して第2計測部42を動作させ、図3(A)に示すように線路RLに沿って存在判定枠AR1よりも広い範囲をカバーする所定の広域判定枠AR2内に存在する線路RLの遮蔽体、線路RLに近づく近接物体その他の障害物を監視する。障害物は、列車TRの進行又は走行を妨げるおそれがある物体であり、上記のように線路RLに近づく近接物体を含んでおり、線路RLに沿った車両限界内に存在するものには限られない。障害物としては、典型的には、人、車、落石、動物等を挙げることができ、ある程度以上の大きさを有する物体が対象となる。演算処理部101は、第1計測部41により取得した計測データに基づく存在判定枠AR1内における物体の有無の検知結果や、第2計測部42により取得した計測データに基づく広域判定枠AR2内における遮蔽体その他の障害物の検知結果から、列車TRの進行方向前方に障害物があると判断すると、ブレーキ装置33を動作させて車両を減速させたり停止させたりするとともに、車内出力部36により、乗客に対して急ブレーキによる停止を行う旨の報知等を行う。つまり、演算処理部101を存在判定部や配置判定部として並列的に動作させることで、相互に補間しつつ判定の信頼性を高めることができる。 The arithmetic processing unit 101 operates based on programs and data stored in the storage unit 102, performs processing based on information obtained from the input/output unit 103 and the interface unit 104, and stores the progress and results of the processing in the storage unit 102. It is stored in and is presented to the input/output unit 103. Further, the arithmetic processing unit 101 operates the first measurement unit 41 as an existence determination unit via the interface unit 104 based on a program or the like, and as shown in FIG. The obstacle existing in the predetermined presence determination frame AR1 having the size corresponding to is monitored. The arithmetic processing unit 101 also operates the second measurement unit 42 as an arrangement determination unit via the interface unit 104 based on a program or the like, and the presence determination frame along the line RL as shown in FIG. 3A. The shield of the line RL existing in a predetermined wide area determination frame AR2 that covers a wider area than AR1 and a near object or other obstacle approaching the line RL are monitored. The obstacle is an object that may obstruct the traveling or traveling of the train TR, and includes a near object approaching the track RL as described above, and is not limited to an object existing within the vehicle limit along the track RL. Absent. The obstacle typically includes a person, a car, a rockfall, an animal, etc., and an object having a certain size or more is targeted. The arithmetic processing unit 101 detects the presence/absence of an object in the presence determination frame AR1 based on the measurement data acquired by the first measurement unit 41 and the wide area determination frame AR2 based on the measurement data acquired by the second measurement unit 42. When it is determined that there is an obstacle ahead in the traveling direction of the train TR from the detection result of the shield and other obstacles, the brake device 33 is operated to decelerate or stop the vehicle, and the in-vehicle output unit 36 Notify passengers that they will stop by sudden braking. That is, by operating the arithmetic processing unit 101 in parallel as the presence determination unit and the placement determination unit, it is possible to increase the reliability of the determination while interpolating each other.

図1に戻って、第1計測部41は、例えばミリ波(つまり電磁波)によって物体検出を行うレーダー装置を有し、前方の計測領域内に存在する物体を計測する。第1計測部41は、列車TRの前方に対して電磁波ビームをアンテナアレイ等を利用して2次元的に走査しつつ照射し、物体で反射されて戻って来た反射波の方位及び検出タイミングから物体の奥行き方向を含めた位置を計測する。この際、反射波の角度範囲から物体のサイズに関する情報も得ることができる。第1計測部41による物体検出に際して列車TRの前方に存在判定枠AR1(図3(A)参照)を設定すれば、この存在判定枠AR1内に存在する物体又は障害物を抽出することもできる。第1計測部41は、列車TRの走行に伴って高速で計測及び距離算出を行うので、列車TRの前方の変化する前景についてリアルタイムで距離画像又はその元になる距離情報を出力することができる。第1計測部41については、レーダー装置に限らず、例えば電磁波として赤外光その他のレーザー光を用いポリゴンミラー、MEMSミラー等により走査を行うレーザーレーダー装置又は3次元画像センサーを用いることができる。 Returning to FIG. 1, the first measurement unit 41 has a radar device that detects an object by, for example, a millimeter wave (that is, an electromagnetic wave), and measures an object existing in a front measurement region. The first measurement unit 41 irradiates the front of the train TR with an electromagnetic wave beam while scanning it two-dimensionally by using an antenna array or the like, and the azimuth and detection timing of the reflected wave reflected by the object and returned. To measure the position of the object including the depth direction. At this time, information about the size of the object can also be obtained from the angular range of the reflected wave. When the presence determination frame AR1 (see FIG. 3A) is set in front of the train TR when the first measurement unit 41 detects the object, the object or obstacle existing in the presence determination frame AR1 can be extracted. .. Since the first measuring unit 41 performs high-speed measurement and distance calculation as the train TR travels, it can output a distance image or distance information that is the source of the distance image in real time with respect to the changing foreground in front of the train TR. .. The first measuring unit 41 is not limited to a radar device, but may be a laser radar device or a three-dimensional image sensor that scans with infrared light or other laser light as electromagnetic waves using a polygon mirror, a MEMS mirror, or the like.

第2計測部42は、例えば赤外光又は可視光によって撮影を行うTOFカメラ(Time-of-Flight Camera)その他の3次元撮像装置を有し、前景について距離画像を計測する。第2計測部42がTOFカメラである場合、詳細な説明を省略するが、第2計測部42は、前景をパルス光で照明する発光デバイスと、画素ごとに距離情報を検出するイメージセンサーとを有する。発光デバイスからの光が前景の対象物で反射され、イメージセンサーに届くまでの光の飛行時間(時間差)を画素ごとに検出することで、前景の各対象物までの距離を測定することができる。演算処理部101は、第2計測部42によって得た距離画像に付随して得られる2次元画像に基いて所定サイズ以上のエッジ又はオブジェクトを抽出することができる。さらに、演算処理部101は、第2計測部42によって得た距離画像から、上記のように予め抽出したエッジ又はオブジェクトまでの距離を算出することができる。なお、第2計測部42によって取得される2次元画像は、距離画像から距離情報を捨象した例えばグレースケールの輝度画像である。第2計測部42は、列車TRの走行に伴って高速で距離画像の撮影を行うので、列車TRの前方の変化する前景についてリアルタイムで距離画像又は2次元画像を計測することができる。 The 2nd measurement part 42 has a three-dimensional imaging device, such as a TOF camera (Time-of-Flight Camera) which image|photographs with infrared light or visible light, for example, and measures a distance image about a foreground. When the second measuring unit 42 is a TOF camera, detailed description is omitted, but the second measuring unit 42 includes a light emitting device that illuminates the foreground with pulsed light and an image sensor that detects distance information for each pixel. Have. The distance from each of the foreground objects can be measured by detecting the time of flight (time difference) of the light from the light-emitting device that is reflected by the foreground objects and reaching the image sensor for each pixel. .. The arithmetic processing unit 101 can extract an edge or an object having a predetermined size or more based on a two-dimensional image obtained in association with the distance image obtained by the second measuring unit 42. Further, the arithmetic processing unit 101 can calculate the distance to the edge or the object extracted in advance as described above from the distance image obtained by the second measuring unit 42. The two-dimensional image acquired by the second measuring unit 42 is, for example, a grayscale luminance image in which distance information is removed from the distance image. Since the second measuring unit 42 captures the distance image at high speed as the train TR travels, the second measuring unit 42 can measure the distance image or the two-dimensional image in real time with respect to the changing foreground in front of the train TR.

第2計測部42は、TOFカメラのように直接的に距離画像を計測するものに限らず、例えば視差を利用して距離情報を得るステレオカメラであってもよいし、フォーカスを移動させて各焦点位置でピントが合うオブジェクトを抽出するようなものであってもよい。第2計測部42としては、レーザーレーダー装置を用いることができる。 The second measurement unit 42 is not limited to one that directly measures a distance image like a TOF camera, but may be, for example, a stereo camera that obtains distance information by using parallax, or by moving the focus. For example, an object that is in focus at the focus position may be extracted. A laser radar device can be used as the second measurement unit 42.

図3(A)及び3(B)を参照して、第1計測部41に関する存在判定枠AR1と、第2計測部42関する広域判定枠AR2とについて説明する。第1計測部41を用いた監視における個々の存在判定枠AR1は、軌道としての線路RL又は軌道中心RCに沿って延びる四角錐状の領域であり、車両限界程度の範囲に設定されて、線路RLの軌間幅を既定幅として、この既定幅を有するとともに列車TRの高さ程度の高さを有する。存在判定枠AR1の奥行き距離D1は、制動距離との関係で設定されるが、例えば40mに設定することができる。存在判定枠AR1による判定は、中距離を対象とするものである。なお、存在判定枠AR1は、列車TRの移動に伴って移動し、連続した存在判定枠AR1の集合である全体の存在判定枠TA1は、四角柱状の領域となる。一方、第2計測部42を用いた監視における広域判定枠AR2は、3次元的側面で捉えた場合、軌道としての線路RL又は軌道中心RCに沿って延びる四角柱状の領域であり、建築限界以上の範囲に設定されて、存在判定枠AR1を含んで広い範囲をカバーするものとなっている。つまり、広域判定枠AR2は、存在判定枠AR1や全体の存在判定枠TA1を含んで方位的により広い領域に設定され、かつ、存在判定枠AR1を含んでより遠い領域に設定されている。広域判定枠AR2は、具体的には線路RLの軌間幅又は路床幅を超えて周辺を含むように設定されている。広域判定枠AR2の横幅は、線路RLの横に数m以上又は数10m以上に広がったものとすることができ、広域判定枠AR2の奥行き距離D2は、制動距離との関係で設定されるが、例えば100m以上に設定することができる。広域判定枠AR2による識別は、中距離及び長距離を対象とするものである。なお、広域判定枠AR2は、距離画像の処理においてだけでなく2次元画像の処理においても利用される。 With reference to FIGS. 3A and 3B, the presence determination frame AR1 regarding the first measurement unit 41 and the wide area determination frame AR2 regarding the second measurement unit 42 will be described. Each presence determination frame AR1 in the monitoring using the first measurement unit 41 is a quadrangular pyramid-shaped region extending along the track RL or the track center RC as a track, and is set within the range of the vehicle limit, and the track is set. With the track width of the RL as a predetermined width, the rail has the predetermined width and the height of the train TR. The depth distance D1 of the existence determination frame AR1 is set in relation to the braking distance, but can be set to 40 m, for example. The determination by the presence determination frame AR1 is for a medium distance. Note that the presence determination frame AR1 moves along with the movement of the train TR, and the entire presence determination frame TA1 that is a set of continuous presence determination frames AR1 becomes a square columnar region. On the other hand, the wide area determination frame AR2 in monitoring using the second measurement unit 42 is a rectangular column-shaped region extending along the track RL or the track center RC as a track when viewed from a three-dimensional side, and is equal to or larger than the building limit. The range is set to cover a wide range including the presence determination frame AR1. That is, the wide area determination frame AR2 is set to a directionally wider area including the presence determination frame AR1 and the entire presence determination frame TA1, and is set to a farther area including the presence determination frame AR1. The wide area determination frame AR2 is specifically set to exceed the track width or the roadbed width of the track RL and include the periphery. The wide width of the wide area judgment frame AR2 can be set to be several meters or more or several tens of meters or more beside the line RL, and the depth distance D2 of the wide area judgment frame AR2 is set in relation to the braking distance. For example, it can be set to 100 m or more. The identification by the wide area determination frame AR2 is intended for medium distance and long distance. The wide area determination frame AR2 is used not only in processing a distance image but also in processing a two-dimensional image.

存在判定枠AR1は、存在判定枠AR1の前方端FA1が軌道としての線路RL上方をカバーするように軌道中心RCを基準として設定されるものであり、列車TRが線路RL上のどの地点に存在するかによって時々刻々と変化する。存在判定枠AR1は、線路RL上の走行位置の関数として与えられ、列車TR又は計測車を事前に走行させることで具体的に決定され、距離又は走行位置毎の存在判定枠データベースとして記憶部102等に保管される。実際の計測において、演算処理部101は、列車TRの線路RL上の走行位置に基づいて記憶部102に保管された存在判定枠データベースから対応する存在判定枠AR1を読み出すことにより、走行位置に対応する存在判定枠AR1を設定し、第1計測部41を利用して計測を行い、存在判定枠AR1内に障害物その他の所定サイズ以上の物体が存在するか否かを判断する。存在判定枠AR1の範囲又は位置は、線路RLの軌道中心RC及び列車TRの先頭位置を基準として、例えば1mといった線路RLに沿った間隔又は刻みで設定することができる。線路RLがカーブで曲がっている場合、曲がった線路RLに沿って存在判定枠AR1が設定され、全体として弧を描くような存在判定枠TA1となる。なお、列車TRが大きく曲がる曲線区間では、本来存在判定枠AR1とすべき箇所が物陰に隠れる可能性があり、この場合、存在判定枠AR1の設定を行わず第1計測部41を用いた監視も一時的に中断させることができる。存在判定枠AR1が部分的に物陰に隠れる場合、存在判定枠AR1を部分的に有効にすることもできる。 The existence determination frame AR1 is set on the basis of the track center RC so that the front end FA1 of the existence determination frame AR1 covers above the track RL as a track, and the train TR exists at any point on the track RL. It changes from moment to moment depending on what you do. The presence determination frame AR1 is given as a function of the traveling position on the track RL, is specifically determined by traveling the train TR or the measurement vehicle in advance, and is a storage unit 102 as a presence determination frame database for each distance or traveling position. Etc. In the actual measurement, the arithmetic processing unit 101 corresponds to the traveling position by reading the corresponding presence determination frame AR1 from the presence determination frame database stored in the storage unit 102 based on the traveling position on the track RL of the train TR. The presence determination frame AR1 to be set is set, measurement is performed using the first measurement unit 41, and it is determined whether or not there are obstacles and other objects having a predetermined size or more in the presence determination frame AR1. The range or position of the existence determination frame AR1 can be set at intervals or intervals along the track RL, such as 1 m, with reference to the track center RC of the track RL and the head position of the train TR. When the line RL is curved, a presence determination frame AR1 is set along the curved line RL, and the presence determination frame TA1 draws an arc as a whole. In the curved section where the train TR makes a large turn, there is a possibility that a portion that should originally be the existence determination frame AR1 may be hidden behind the object. In this case, the presence measurement frame AR1 is not set and monitoring is performed using the first measurement unit 41. Can also be temporarily interrupted. When the presence determination frame AR1 is partially hidden behind the object, the presence determination frame AR1 can be partially enabled.

広域判定枠AR2は、軌道としての線路RL及びその周辺を広くカバーするように軌道中心RCを基準として設定されるものであり、列車TRが線路RL上のどの地点に存在するかによって時々刻々と変化する。広域判定枠AR2は、列車TRの走行に伴って演算処理部101によってリアルタイムで設定される。つまり、演算処理部101は、第2計測部42を利用して計測を行うことで距離画像(つまり距離情報)を取得し、距離情報を得た空間から広域判定枠AR2を選択し、この広域判定枠AR2内において、線路RLの消失点を監視するとともに、線路RLを遮る遮蔽体や線路RLに近接する近接物体といった障害物であって、所定サイズ以上の物体が出現したか否かを判断する。広域判定枠AR2の範囲又は位置は、線路RLの軌道中心RCやその位置での軌間に相当する画素幅等を基準として設定され、前方の線路RLがカーブで曲がっている場合、曲がった状態に合わせて前方の線路RL全体を可能な限り包含するように設定される。広域判定枠AR2は、原則として線路RL及びその周囲を含むものとなっており、列車TRの近接した前方を除く準近距離領域、中距離領域、及び遠距離領域において、少なくとも建築限界の外側に十分なマージンを確保して広がったものとなっている。 The wide area determination frame AR2 is set with the track center RC as a reference so as to widely cover the track RL as a track and its surroundings, and it changes momentarily depending on where on the track RL the train TR exists. Change. The wide area determination frame AR2 is set by the arithmetic processing unit 101 in real time as the train TR travels. That is, the arithmetic processing unit 101 acquires a distance image (that is, distance information) by performing measurement using the second measuring unit 42, selects the wide area determination frame AR2 from the space in which the distance information is obtained, and selects the wide area. In the determination frame AR2, the vanishing point of the line RL is monitored, and it is determined whether or not an obstacle such as a shield that blocks the line RL or a near object near the line RL, which is an object having a predetermined size or more, appears. To do. The range or position of the wide area determination frame AR2 is set with reference to the track center RC of the track RL or the pixel width corresponding to the track at that position, etc., and when the track RL in front is curved, it is bent. In addition, it is set so as to include the entire front line RL as much as possible. The wide-area judgment frame AR2 includes, in principle, the line RL and its surroundings, and at least outside the building limit in the quasi-near-distance area, medium-distance area, and long-distance area excluding the front area near the train TR. It has expanded with a sufficient margin.

図4(A)に示すように、存在判定枠AR1については、補助的な存在判定枠AR11,AR12を追加することもできる。補助的な存在判定枠AR11,AR12は、基本的な存在判定枠AR1に対して奥行き距離D1が異なるように設定されている。このように、距離ごとに設定した複数の存在判定枠AR1,AR11,AR12を用いることで、各位置での障害物の有無の判定が可能になり、列車TRの速度を考慮した衝突危険性判断の確度を高めることができる。 As shown in FIG. 4A, auxiliary presence determination frames AR11 and AR12 can be added to the presence determination frame AR1. The auxiliary presence determination frames AR11 and AR12 are set so that the depth distance D1 is different from that of the basic presence determination frame AR1. As described above, by using the plurality of existence determination frames AR1, AR11, and AR12 set for each distance, it is possible to determine the presence or absence of an obstacle at each position, and to determine the collision risk in consideration of the speed of the train TR. The accuracy of can be increased.

図4(B)及び4(C)に示すように、広域判定枠AR2は、線路RLを遮る遮蔽体を検出する領域として内側の配置判定枠AR21を有するとともに、線路RLに近接する近接物体を検出する領域として外側の近接判定枠AR22を有する。一方の配置判定枠AR21は、線路RL及びその周囲を含んでおり、車両限界の内側領域を少なくともカバーし、かつ、車両限界の外側の外殻領域まで広がったものとなっている。配置判定枠AR21は、具体例では建築限界又はこれに近い範囲に広がったものとなっている。他方の近接判定枠AR22は、配置判定枠AR21の外側を基本とし広域判定枠AR2の外縁まで延びる。結果的に、近接判定枠AR22は、配置判定枠AR21を挟んで左右に分かれた領域となっている。近接判定枠AR22は、具体例では左右に関して車両限界又は建築限界の外側領域をカバーしたものとなっている。図示の場合、配置判定枠AR21の外側と近接判定枠AR22の内側とを部分的に重複させているが、配置判定枠AR21と近接判定枠AR22とが重複しないように設定することもできる。 As shown in FIGS. 4(B) and 4(C), the wide area determination frame AR2 has an inner placement determination frame AR21 as a region for detecting a shield that blocks the line RL, and detects a proximity object close to the line RL. It has an outer proximity determination frame AR22 as a region to be detected. One arrangement determination frame AR21 includes the track RL and its surroundings, covers at least the inner region of the vehicle limit, and extends to the outer shell region outside the vehicle limit. In the specific example, the arrangement determination frame AR21 extends to the building limit or a range close to this. The other proximity determination frame AR22 is basically located outside the placement determination frame AR21 and extends to the outer edge of the wide range determination frame AR2. As a result, the proximity determination frame AR22 is a region that is divided into the left and the right with the placement determination frame AR21 in between. In the specific example, the proximity determination frame AR22 covers an area outside the vehicle limit or the construction limit with respect to the left and right. In the illustrated case, the outside of the placement determination frame AR21 and the inside of the proximity determination frame AR22 partially overlap, but it is also possible to set so that the placement determination frame AR21 and the proximity determination frame AR22 do not overlap.

配置判定枠AR21と近接判定枠AR22とは、説明の便宜上外縁が明確に画定された状態で図示されているが、必ずしも外縁を明確に規定して処理を行う必要はなく、配置判定枠AR21において、線路RLを遮る遮蔽体を障害物として検出できればよく、近接判定枠AR22において、線路RLに近接する近接物体を障害物として検出できればよい。 Although the arrangement determination frame AR21 and the proximity determination frame AR22 are illustrated in a state where the outer edge is clearly defined for convenience of explanation, it is not always necessary to clearly define the outer edge to perform processing, and the arrangement determination frame AR21 It suffices that the shield that blocks the line RL can be detected as an obstacle, and the proximity determination frame AR22 needs to be able to detect a proximity object that is close to the line RL as an obstacle.

配置判定枠AR21は、2次元画像の処理において利用される場合、線路RLの各点に対して規定される建築限界、車両限界又はこれらに準じたものである個々の近傍外縁要素を包括した2次元的な外縁に相当するものとなる。例えば図4(B)に示すように、前方の線路RLが直線的に延びる場合、最も近接する近傍外縁要素又は検出範囲に対応する矩形領域RFが2次元画像の処理における配置判定枠AR21となる。図示を省略するが、前方の線路RLが右又は左に大きく曲がっている場合、2次元画像の処理における配置判定枠AR21は、最も近接する近傍外縁要素又は検出範囲に対応する矩形領域RFから曲がった先の線路RLを包含するようにはみ出した領域を有するものとなる場合もある。 When used in the processing of a two-dimensional image, the arrangement determination frame AR21 includes a building limit defined for each point of the track RL, a vehicle limit, or an individual neighboring outer edge element that complies with these limits. It is equivalent to a dimensional outer edge. For example, as shown in FIG. 4(B), when the front line RL extends linearly, the closest neighboring outer edge element or the rectangular area RF corresponding to the detection range becomes the arrangement determination frame AR21 in the processing of the two-dimensional image. .. Although illustration is omitted, when the front line RL is largely bent to the right or left, the placement determination frame AR21 in the processing of the two-dimensional image is bent from the rectangular area RF corresponding to the closest neighboring outer edge element or the detection range. In some cases, it may have a region protruding so as to include the leading line RL.

近接判定枠AR22は、配置判定枠AR21の左右の外側に設定される。つまり、近接判定枠AR22は、2次元画像の処理において利用される場合、線路RLの各点に対して規定される建築限界、車両限界又はこれらに準じたものである個々の近傍外縁要素の左右外側に広がる隣接外縁要素を包括した2次元的な外縁に相当するものとなる。 The proximity determination frame AR22 is set outside the left and right of the arrangement determination frame AR21. That is, when the proximity determination frame AR22 is used in the processing of a two-dimensional image, the building limit, the vehicle limit defined for each point of the track RL, or the left and right sides of individual neighboring outer edge elements that are in accordance with these are defined. This corresponds to a two-dimensional outer edge that includes adjacent outer edge elements that spread to the outside.

広域判定枠AR2の設定方法について説明する。まず、配置判定枠AR21については、演算処理部101が、第2計測部42により取得した計測データとして2次元画像を用い、例えば所定サイズ以上のエッジを2次元画像から抽出するとともに、マッチング等の技術を利用して線路RLを構成するレールRLa,RLbの画像を抽出する。レールRLa,RLbの画像を抽出できた場合、線路RLの消失点の位置を決定することができる。ここで、線路RLの消失点とは、原則として、レールRLa,RLbの間隔(軌道間隔)が2次元画像の上側で所定画素以下となる点を意味し、線路RLが水平方向に直線的に延びる場合、レールRLa,RLbが収束する無限遠点に相当し、線路RLが特定方向に曲がって延びる場合、2次元画像の画面外となるか、線路RLが前景物体に遮られた点となる。消失点が2次元画像の上側で軌道間隔が所定画素以下となる場合、消失点は、所定以上遠方にあるものとなる。消失点が所定以上遠方にない場合、レールRLa,RLbが近い場所で現実に又は画像上で途切れていることになり、線路RLが終端していたり線路RLの計測に異常が発生したりしている可能性がある。その後、演算処理部101は、2次元画像において、線路RLに沿って最も近接した位置から消失点にかけて、車両限界等に準じた枠領域である近傍外縁要素を適宜の距離間隔又は画素間隔で順次設定し、枠領域又は近傍外縁要素を連ねた全体として枠内を配置判定枠AR21とする。配置判定枠AR21を距離画像で捉えた場合、線路RLに沿って設定した上記枠領域又は近傍外縁要素を3次元的に連ねたものとなる。ただし、配置判定枠AR21を距離画像によって3次元的に画定する処理を行う必要はなく、2次元的な配置判定枠AR21において距離画像を利用した判定を行うことで、結果として3次元的な配置判定枠AR21内において線路RLの遮蔽体の検出が行われることになる。 A method of setting the wide area determination frame AR2 will be described. First, regarding the arrangement determination frame AR21, the arithmetic processing unit 101 uses a two-dimensional image as the measurement data acquired by the second measuring unit 42, extracts an edge having a predetermined size or more from the two-dimensional image, and performs matching and the like. Images of the rails RLa and RLb forming the line RL are extracted using the technology. When the images of the rails RLa and RLb can be extracted, the position of the vanishing point of the line RL can be determined. Here, the vanishing point of the line RL means, as a rule, a point where the interval (track interval) between the rails RLa and RLb is equal to or less than a predetermined pixel on the upper side of the two-dimensional image, and the line RL is linear in the horizontal direction. When extending, it corresponds to the point at infinity where the rails RLa and RLb converge, and when the line RL bends in a specific direction and extends, it is outside the screen of the two-dimensional image or the point where the line RL is blocked by the foreground object. .. When the vanishing point is on the upper side of the two-dimensional image and the orbital interval is equal to or less than the predetermined pixel, the vanishing point is located more than the predetermined distance. If the vanishing point is not more than a predetermined distance away, it means that the rails RLa and RLb are discontinuous near each other in reality or on the image, and the line RL is terminated or an abnormality occurs in the measurement of the line RL. There is a possibility that Then, in the two-dimensional image, the arithmetic processing unit 101 sequentially arranges the neighboring outer edge elements, which are the frame areas according to the vehicle limit, at appropriate distance intervals or pixel intervals from the closest position along the line RL to the vanishing point. The set area is set, and the inside of the frame as a whole including the frame area or the neighboring outer edge elements is set as an arrangement determination frame AR21. When the arrangement determination frame AR21 is captured by the distance image, the frame region or the neighboring outer edge elements set along the line RL are three-dimensionally connected. However, it is not necessary to perform the process of three-dimensionally defining the arrangement determination frame AR21 by the distance image, and the determination using the distance image in the two-dimensional arrangement determination frame AR21 results in the three-dimensional arrangement. The shield of the line RL is detected in the determination frame AR21.

近接判定枠AR22については、配置判定枠AR21の設定に用いた情報を利用する。つまり、演算処理部101は、2次元画像において、線路RLに沿って最も近接した位置から消失点にかけて、車両限界等に準じた枠領域である近傍外縁要素の左右外側に相当する一対の隣接外縁要素を適宜の距離間隔又は画素間隔で順次設定し、近傍外縁要素を連ねた全体として枠内を近接判定枠AR22とする。この際、近接判定枠AR22を構成する隣接外縁要素と、配置判定枠AR21を構成する近傍外縁要素との間に部分的な重複があってもよく、両者が接し或いは離間していてもよい。近接判定枠AR22を距離画像で捉えた場合、線路RLに沿って設定した上記枠領域又は隣接外縁要素を3次元的に連ねたものとなる。ただし、近接判定枠AR22を距離画像によって3次元的に画定する処理を行う必要はなく、2次元的な近接判定枠AR22において距離画像を利用した判定を行うことで、結果として近接判定枠AR22内において線路RLに近接する近接物体の検出が行われることになる。 For the proximity determination frame AR22, the information used for setting the placement determination frame AR21 is used. That is, the arithmetic processing unit 101, in the two-dimensional image, extends from the closest position along the line RL to the vanishing point, and a pair of adjacent outer edges corresponding to the left and right outer sides of the neighboring outer edge element which is a frame area conforming to the vehicle limit or the like. The elements are sequentially set at appropriate distance intervals or pixel intervals, and the inside of the frame as a whole of the neighboring outer edge elements is set as a proximity determination frame AR22. At this time, there may be a partial overlap between the adjacent outer edge element that constitutes the proximity determination frame AR22 and the neighboring outer edge element that constitutes the arrangement determination frame AR21, or both may be in contact with or separated from each other. When the proximity determination frame AR22 is captured by a distance image, the frame region or adjacent outer edge elements set along the line RL are three-dimensionally connected. However, it is not necessary to perform the process of three-dimensionally defining the proximity determination frame AR22 by the distance image, and the determination using the distance image in the two-dimensional proximity determination frame AR22 results in the proximity determination frame AR22. At, the detection of a near object near the line RL is performed.

図5(A)及び5(B)は、配置判定枠AR21の設定に際して行われる線路RLの消失点の検出方法を説明する概念図である。両図は、第2計測部42によって得た2次元画像を説明する概念図であり、消失点の検出前の元画像を説明の便宜上単純化したものに相当する図5(A)では、直線的に延びる線路RLを構成する一対の直線状のレールRLa,RLbの映像が軌道像として捉えられている。図5(B)では、一対のレール(軌道像)RLa,RLbの映像が抽出されて点線で示す一対の近似線ALのフィッティングが行われ、一対の近似線ALの先端に消失点VPが決定されている。図5(C)及び5(D)は、カーブに差し掛かった場合の消失点の検出方法を説明する概念図である。消失点の検出前の元画像を説明の便宜上単純化したものに相当する図5(C)では、直線的に延びる線路RLを構成する一対のレールRLa,RLbの映像が捉えられており、図5(D)では、一対の曲線状のレールRLa,RLbの映像が抽出されて一対の近似線(点線)ALのフィッティングが行われ、一対の近似線ALの先端に消失点VPが決定されている。なお、近似線ALを延長することによって映像上一旦途切れたレールRLa,RLbを連続的なものとして処理することもできる。 FIGS. 5A and 5B are conceptual diagrams illustrating a method of detecting a vanishing point of the line RL performed when setting the arrangement determination frame AR21. Both figures are conceptual diagrams for explaining the two-dimensional image obtained by the second measuring unit 42, and in FIG. 5(A) corresponding to a simplified version of the original image before the vanishing point is detected, a straight line is shown in FIG. An image of a pair of linear rails RLa and RLb that form the line RL that extends in a continuous manner is captured as a trajectory image. In FIG. 5B, images of a pair of rails (trajectory images) RLa and RLb are extracted and a pair of approximate lines AL indicated by dotted lines are fitted to determine a vanishing point VP at the tip of the pair of approximate lines AL. Has been done. 5(C) and 5(D) are conceptual diagrams illustrating a method of detecting a vanishing point when a curve is approaching. In FIG. 5C, which corresponds to a simplified version of the original image before the vanishing point is detected for convenience of description, an image of a pair of rails RLa and RLb forming a linearly extending line RL is captured. In 5(D), the images of the pair of curved rails RLa and RLb are extracted, fitting of the pair of approximate lines (dotted lines) AL is performed, and the vanishing point VP is determined at the tip of the pair of approximate lines AL. There is. By extending the approximate line AL, it is possible to process the rails RLa and RLb that are once interrupted on the image as continuous ones.

配置判定枠AR21の設定に際しては、第2計測部42によって得た2次元画像内に複数の線路が写り込んでいる場合がある。このような場合であっても自己の列車TRが走行する線路RLのレールRLa,RLbを適切に絞り込んで抽出できるように、演算処理部101は、近距離側に線路判定枠AR3を設けて線路判定枠AR3から始まる一対のレールRLa,RLbのみを選択する。これにより、自己の列車TRが走行する線路RLに対応する適正な1つの消失点VPを決定することができ、障害物判定精度を高めることができる。なお、複数の線路が写り込んでいる結果として複数の消失点が検出されても、制動関連情報が増えるだけであり、運転上の支障が生じないような運用が可能である。 When setting the arrangement determination frame AR21, a plurality of lines may be reflected in the two-dimensional image obtained by the second measurement unit 42. Even in such a case, the arithmetic processing unit 101 provides the track determination frame AR3 on the short distance side so that the rails RLa and RLb of the track RL on which the own train TR runs can be appropriately narrowed down and extracted. Only the pair of rails RLa and RLb starting from the judgment frame AR3 is selected. As a result, it is possible to determine an appropriate vanishing point VP corresponding to the line RL on which the train TR of its own travels, and it is possible to improve the accuracy of obstacle determination. Even if a plurality of vanishing points are detected as a result of a plurality of lines being reflected, only braking-related information is increased, and operation that does not cause a driving problem can be performed.

図5(E)及び5(F)は、配置判定枠AR21の設定方法を説明する概念図である。両図は、第2計測部42によって得た2次元画像を示しており、図5(E)に示す直進の場合と、図5(F)に示すカーブの場合とにおいて、線路RLに沿って設定される多数の近傍外縁要素CEを示している。近傍外縁要素CEの集合の外縁の範囲内が配置判定枠AR21となる。なお、図5(E)及び5(F)において、最も手前の近傍外縁要素CEを挟んだ左右の外側には、近接判定枠AR22を構成する最も手前の隣接外縁要素PEが示されている。ただし、奧側の隣接外縁要素については図示を省略している。 5E and 5F are conceptual diagrams illustrating a method of setting the arrangement determination frame AR21. Both figures show a two-dimensional image obtained by the second measurement unit 42, and along the line RL in the case of straight traveling shown in FIG. 5(E) and the case of the curve shown in FIG. 5(F). It shows a large number of neighboring outer edge elements CE that are set. The area of the outer edge of the set of neighboring outer edge elements CE is the arrangement determination frame AR21. 5(E) and 5(F), the frontmost adjacent outer edge element PE forming the proximity determination frame AR22 is shown on the left and right outer sides of the frontmost adjacent outer edge element CE. However, illustration of the adjacent outer edge element on the back side is omitted.

図6(A)及び6(B)を参照して、線路RLを遮る遮蔽体について説明する。図6(A)に示す例では、広域判定枠AR2のうち特に2次元的な配置判定枠AR21において、線路RLの消失点VPよりも手前に電柱状の遮蔽体CO1が存在する。第2計測部42から遮蔽体CO1の線路RLを横切る部分CO1a迄の距離L11と、第2計測部42から部分CO1aによって途切れた線路RLの遮断端である軌道位置CP1迄の距離L12とは、第2計測部42によって得た距離画像から判定することができる。演算処理部101は、配置判定部として、部分CO1a迄の距離L11と部分CO1aが遮っている軌道位置CP1迄の距離L12との差である距離差Δが所定の上限値(例えば列車TRの横幅)を超えて大きくなっているときは、遮蔽体CO1が前景の物体であり3次元的な配置判定枠AR21の外側にある見かけ上のものと判断し、線路RL上を進行する列車TRにとっての障害物ではないと判断する。図6(B)に示す例では、線路RLの消失点VPよりも手前に別の遮蔽体CO2が存在する。第2計測部42から遮蔽体CO2迄の距離L21と、第2計測部42から遮蔽体CO2によって途切れた線路RLの遮断端である軌道位置CP2迄の距離L22とは、第2計測部42によって得た距離画像から判定することができる。演算処理部101は、配置判定部として、遮蔽体CO2迄の距離L21と遮蔽体CO2が遮っている軌道位置CP2迄の距離L22との差である距離差Δが所定の上限値以下であるときは、遮蔽体CO2が線路RL上に横たわり或いは線路RLを覆っていると判断し、線路RL上を進行する列車TRにとっての障害物であると判断する。この場合、遮蔽体CO2と線路RLとの距離が近い場合に限って障害物と判断することで、例えば走行を妨げない前景物体である遮蔽体CO1を判定対象から除くことができ、障害物判定精度を高めることができる。以上において、配置判定部である演算処理部101は、所定の広域判定枠AR2のうち配置判定枠AR21内に遮蔽体CO2が存在する場合に、遮蔽体CO2を障害物であると判断するので、配置判定枠AR21によって列車TRが通過する領域に検出範囲を絞ることができ、障害物の判定範囲が過度に広がることを防止できる。なお、前景とされる遮蔽体CO1や障害物の候補とされる遮蔽体CO2は、線路RLのレール(軌道像)RLa,RLbの双方を遮蔽するものに限らず片方を遮蔽するようなものであってもよい。演算処理部101による判定処理の対象となる遮蔽体CO1,CO2は、レールRLa,RLbのサイズを基準として所定以上のサイズを有するものであれば、障害物となる可能性があるとして候補に加えられる。 A shield that blocks the line RL will be described with reference to FIGS. In the example shown in FIG. 6A, the columnar shield CO1 exists in front of the vanishing point VP of the line RL in the two-dimensional arrangement determination frame AR21 of the wide area determination frame AR2. The distance L11 from the second measuring unit 42 to the portion CO1a that crosses the line RL of the shield CO1 and the distance L12 from the second measuring unit 42 to the track position CP1, which is the cutoff end of the line RL interrupted by the portion CO1a, are: It can be determined from the distance image obtained by the second measuring unit 42. As the arrangement determination unit, the arithmetic processing unit 101 uses a distance difference Δ, which is a difference between the distance L11 to the portion CO1a and the distance L12 to the track position CP1 obstructed by the portion CO1a, to a predetermined upper limit value (for example, the lateral width of the train TR). ), the shield CO1 is judged to be an object in the foreground and is an external object outside the three-dimensional arrangement determination frame AR21, and for the train TR traveling on the track RL. Judge that it is not an obstacle. In the example shown in FIG. 6B, another shield CO2 exists before the vanishing point VP of the line RL. The distance L21 from the second measuring unit 42 to the shield CO2 and the distance L22 from the second measuring unit 42 to the track position CP2 which is the cutoff end of the line RL interrupted by the shield CO2 are determined by the second measuring unit 42. It can be determined from the obtained distance image. When the distance difference Δ, which is the difference between the distance L21 to the shield CO2 and the distance L22 to the track position CP2 blocked by the shield CO2, is less than or equal to a predetermined upper limit value, the arithmetic processing unit 101 is an arrangement determination unit. Determines that the shield CO2 lies on the line RL or covers the line RL, and determines that it is an obstacle for the train TR traveling on the line RL. In this case, by determining that the obstacle is an obstacle only when the distance between the shield CO2 and the line RL is short, for example, the shield CO1 that is a foreground object that does not hinder traveling can be excluded from the determination target, and the obstacle determination can be performed. The accuracy can be increased. In the above, the arithmetic processing unit 101, which is the arrangement determination unit, determines that the shielding body CO2 is an obstacle when the shielding body CO2 exists in the arrangement determination frame AR21 of the predetermined wide area determination frame AR2. By the arrangement determination frame AR21, the detection range can be narrowed down to the region where the train TR passes, and it is possible to prevent the determination range of the obstacle from being excessively widened. The shield CO1 as the foreground and the shield CO2 as the obstacle candidate are not limited to those that shield both the rails (track images) RLa and RLb of the line RL, but one that shields one. It may be. If the shields CO1 and CO2 that are the target of the determination processing by the arithmetic processing unit 101 have a size equal to or larger than a predetermined size based on the sizes of the rails RLa and RLb, they are considered to be obstacles and added to the candidates. To be

図6(C)は、線路RLを遮るものではないが遮蔽体に準じた障害物として扱うべきものを説明する図である。この場合、第2計測部42によって得た2次元画像において、線路RLの消失点VPよりも手前であって線路RLに隣接した箇所に所定以上に大きな周辺物体CO3が存在する。演算処理部101は、2次元画像中からこの種の周辺物体CO3を抽出し、第2計測部42から周辺物体CO3迄の距離L31に対して線路RL上の点を決定し、この距離L31に対応する単一の又は隣接する複数の近傍外縁要素CE又は配置判定枠AR21を特定し、かかる近傍外縁要素CEの範囲内又は配置判定枠AR21内に周辺物体CO3の画像が存在するか否かを判断する。演算処理部101は、上記のように特定された近傍外縁要素CE等の範囲内に周辺物体CO3の画像が存在すると判断した場合、この周辺物体CO3を線路RL上を進行する列車TRにとっての障害物又はそれに準じた物であると判断する。この場合も、配置判定部である演算処理部101は、近傍外縁要素CE又は配置判定枠AR21内に周辺物体CO3が存在する場合に、周辺物体CO3を障害物又はそれに準じた物であると判断するので、近傍外縁要素CE又は配置判定枠AR21によって列車TRが通過する領域又はその近隣に検出範囲を絞ることができる。 FIG. 6C is a diagram for explaining an object that does not block the line RL but that should be treated as an obstacle conforming to the shield. In this case, in the two-dimensional image obtained by the second measurement unit 42, a peripheral object CO3 larger than a predetermined size is present at a position before the vanishing point VP of the line RL and adjacent to the line RL. The arithmetic processing unit 101 extracts this type of peripheral object CO3 from the two-dimensional image, determines a point on the line RL with respect to the distance L31 from the second measuring unit 42 to the peripheral object CO3, and determines the point on this distance L31. The corresponding single or adjacent plural neighboring outer edge elements CE or the placement determination frame AR21 are specified, and whether or not an image of the peripheral object CO3 exists within the range of the neighboring outer edge element CE or the placement determination frame AR21 is determined. to decide. When the arithmetic processing unit 101 determines that the image of the peripheral object CO3 is present within the range of the neighboring outer edge element CE and the like specified as described above, the obstacle for the train TR traveling on the line RL by the peripheral object CO3. It is determined that the product or a product equivalent thereto. In this case as well, the arithmetic processing unit 101, which is the arrangement determination unit, determines that the peripheral object CO3 is an obstacle or a similar object when the peripheral object CO3 exists in the vicinity outer edge element CE or the arrangement determination frame AR21. Therefore, the detection range can be narrowed down to the area where the train TR passes or the vicinity thereof by the neighboring outer edge element CE or the arrangement determination frame AR21.

図7は、所定の広域判定枠AR2内において線路RLに近づく接近物体が存在するか否かを判断する手法を説明する図である。この場合、第2計測部42によって得た距離画像中において、線路RLの周辺に、踏切P3、道路P4、信号器P5等が撮影され、近接判定枠AR22において、移動物体である自動車P6,P7の像も取り込まれている。配置判定部である演算処理部101は、広域判定枠AR2内、特に配置判定枠AR21外において、距離画像又は2次元画像からオブジェクトを抽出し、その移動速度を見積もる。自動車P6,P7の移動速度は、距離画像中における対応するオブジェクトの配置を連続撮影されている距離画像を構成する複数の撮像フレームの距離画像データから判定する。具体的には、演算処理部101は、時間的に異なる一対の距離画像データから得た同一オブジェクトの空間配置の相違を与える差分ベクトルから列車TR自身の移動ベクトルを減算することで自動車P6,P7の空間移動ベクトルを計算することができ、この空間移動ベクトルを複数の撮像フレームの撮影間隔に相当する時間で除算することにより、自動車P6,P7の速度ベクトルVV1,VV2を得ることができる。距離画像中の自動車P6,P7等のオブジェクトを捉えるため、公知のパターンマッチングといった手法のほか、距離画像又はこれから得た2次元画像においてオプティカルフローを検出するといった手法を用いることができる。自動車P6,P7の速度ベクトルVV1,VV2は、自動車P6,P7の移動速度及び移動方向を与えるものであり、演算処理部101は、広域判定枠AR2内に存在する物体の移動速度及び移動方向を略リアルタイムで判定することができる。演算処理部101が物体の移動速度及び移動方向を移動速度及び移動方向を判定することで、接近物体の移動状態を詳細に把握した判断が可能になる。演算処理部101は、速度ベクトルVV1,VV2の軌道中心RCに垂直で軌道中心RCに向かう成分が所定の限界値を超えたか否かを判断する。図示の例では、一方の自動車P6が踏切P3を横切る方向に移動して配置判定枠AR21内に近づいており、自動車P6の速度ベクトルVV1は、軌道中心RCに垂直で軌道中心RCに向かう成分(つまり図面左向きの速度)が所定の限界値を超えるようなものとなる可能性がある。演算処理部101は、自動車P6の速度ベクトルVV1が所定の限界値を超える場合、自動車P6を衝突危険性のある近接物体と判定する。他方の自動車P7は線路RLに沿って移動しており、自動車P7の速度ベクトルVV2は、軌道中心RCに垂直で軌道中心RCに向かう成分が所定の限界値を超えることはない。つまり、演算処理部101は、自動車P7を衝突危険性のない非近接物体と判定する。速度ベクトルVV1,VV2の軌道中心RCに向かう成分についての限界値は、線路RLから自動車P6,P7までの距離や列車TRから自動車P6,P7までの距離に基づいて既定の式を用いて算出される。以上のように演算処理部101が広域判定枠AR2のうち特に近接判定枠AR22に近づく接近物体(自動車P6)が存在するか否かを判断するので、障害物判定を支援する付加情報として、接近物体による障害物発生の予測が可能となる。 FIG. 7 is a diagram illustrating a method of determining whether or not there is an approaching object approaching the line RL within the predetermined wide area determination frame AR2. In this case, in the distance image obtained by the second measurement unit 42, the railroad crossing P3, the road P4, the traffic light P5, and the like are photographed around the railroad track RL, and the automobiles P6 and P7, which are moving objects, in the proximity determination frame AR22. Is also captured. The arithmetic processing unit 101, which is an arrangement determination unit, extracts an object from the distance image or the two-dimensional image within the wide area determination frame AR2, particularly outside the arrangement determination frame AR21, and estimates the moving speed thereof. The moving speeds of the automobiles P6 and P7 are determined based on the distance image data of a plurality of image pickup frames that form continuously captured distance images for the arrangement of the corresponding objects in the distance images. Specifically, the arithmetic processing unit 101 subtracts the movement vector of the train TR itself from the difference vector that gives the difference in the spatial arrangement of the same object obtained from the pair of distance image data that are temporally different from each other, thereby subtracting the movement vector of the train TR itself. Can be calculated, and by dividing this space movement vector by the time corresponding to the shooting intervals of a plurality of image pickup frames, the velocity vectors VV1 and VV2 of the automobiles P6 and P7 can be obtained. In order to capture objects such as automobiles P6 and P7 in the range image, a known method such as pattern matching, or a method of detecting an optical flow in the range image or a two-dimensional image obtained from the range image can be used. The velocity vectors VV1 and VV2 of the automobiles P6 and P7 give the moving velocity and moving direction of the automobiles P6 and P7, and the arithmetic processing unit 101 determines the moving velocity and moving direction of the object existing in the wide area determination frame AR2. It can be determined in substantially real time. The arithmetic processing unit 101 determines the moving speed and moving direction of the object, and thus the moving state and moving direction of the approaching object can be determined in detail. The arithmetic processing unit 101 determines whether or not the component of the velocity vectors VV1 and VV2 that is perpendicular to the trajectory center RC and goes toward the trajectory center RC exceeds a predetermined limit value. In the illustrated example, one vehicle P6 moves in the direction crossing the railroad crossing P3 and approaches the placement determination frame AR21, and the velocity vector VV1 of the vehicle P6 is a component that is perpendicular to the track center RC and goes to the track center RC ( That is, there is a possibility that the leftward speed in the drawing) exceeds a predetermined limit value. When the velocity vector VV1 of the automobile P6 exceeds a predetermined limit value, the arithmetic processing unit 101 determines that the automobile P6 is a near object having a risk of collision. The other vehicle P7 is moving along the track RL, and the velocity vector VV2 of the vehicle P7 is such that the component perpendicular to the track center RC and heading toward the track center RC does not exceed a predetermined limit value. That is, the arithmetic processing unit 101 determines that the automobile P7 is a non-proximity object having no risk of collision. The limit values for the components of the velocity vectors VV1 and VV2 toward the track center RC are calculated using a predetermined formula based on the distance from the line RL to the cars P6 and P7 and the distance from the train TR to the cars P6 and P7. It As described above, the arithmetic processing unit 101 determines whether or not there is an approaching object (vehicle P6) that particularly approaches the proximity determination frame AR22 in the wide-area determination frame AR2. It is possible to predict the occurrence of obstacles by an object.

以上では、線路RLに近づく接近物体が自動車P6,P7である場合について説明したが、線路RLに近づく接近物体が人、自転車、動物等である場合についても自動車の場合と同様の処理を行うことができる。この場合、接近物体が人、自転車、動物等のいずれであるかを判別して、軌道中心RCに向かう速度成分の限界値を接近物体の種類ごとに設定することもできる。 Although the case has been described above where the approaching objects approaching the track RL are the automobiles P6 and P7, the same processing as in the case of a car is performed when the approaching objects approaching the track RL are people, bicycles, animals, and the like. You can In this case, it is possible to determine whether the approaching object is a person, a bicycle, an animal, or the like, and set the limit value of the velocity component toward the track center RC for each type of approaching object.

図8(A)〜8(C)は、消失点VPの信頼性を確認する手法を説明する図である。図8(A)及び8(B)は、晴天時に第2計測部42によって得た複数の2次元画像を示し、図8(A)が1回前の撮影フレームに対応する画像を示し、図8(B)が最後の撮影フレームに対応する画像を示す。図8(B)中には、最後の撮影フレームにおける消失点VPaだけでなく、1回前の撮影フレームにおける消失点VP0もプロットしている。図からも明らかなように、最後の撮影フレームにおける消失点VPaは、線路RL近傍にあって1回前の撮影フレームにおける消失点VP0と殆ど変わらない位置となって相互に隣接している。この場合、消失点VPの検出精度が高いことを意味し、線路RLを遮る遮蔽体の検出精度も高いことが期待される。図8(C)及び8(D)は、雨天時に第2計測部42によって得た複数の2次元画像を示し、図8(C)が1回前の撮影フレームに対応する画像を示し、図8(D)が最後の撮影フレームに対応する画像を示す。図8(C)では、間隔の狭い消失点VP0が得られているが、図8(D)では、先端で間隔が離れた特殊な消失点VPaとなっている。間隔の狭い通常の消失点VP0を抽出できない原因としては、窓に当たる水滴に限らず、雪、霧による視界不良がある。このように、間隔が広い消失点VPaを抽出した場合、消失点の検出精度が低いことを意味し、線路RLを遮る遮蔽体の検出精度も低い可能性が高い。演算処理部101は、図8(D)のように消失点VPの信頼性が低い状態では、列車TRの安全走行に支障があると判断して、所定以下の制限速度での走行のみを許可する動作モードに切り換える。つまり、列車TR前方の視界不良を副次的な運転関連情報として利用することができる。 8A to 8C are diagrams illustrating a method of confirming the reliability of the vanishing point VP. 8(A) and 8(B) show a plurality of two-dimensional images obtained by the second measuring unit 42 during fine weather, and FIG. 8(A) shows an image corresponding to the previous shooting frame. 8(B) shows an image corresponding to the last shooting frame. In FIG. 8B, not only the vanishing point VPa in the last shooting frame but also the vanishing point VP0 in the previous shooting frame are plotted. As is clear from the figure, the vanishing points VPa in the last shooting frame are adjacent to each other in the vicinity of the line RL and at positions that are almost the same as the vanishing points VP0 in the previous shooting frame. In this case, it means that the detection accuracy of the vanishing point VP is high, and it is expected that the detection accuracy of the shield that blocks the line RL is also high. 8(C) and 8(D) show a plurality of two-dimensional images obtained by the second measurement unit 42 in the case of rain, and FIG. 8(C) shows an image corresponding to the immediately preceding shooting frame. 8(D) shows an image corresponding to the last shooting frame. In FIG. 8(C), the vanishing points VP0 having a narrow interval are obtained, but in FIG. 8(D), the vanishing points VPa are special vanishing points spaced apart at the tip. The reason why the normal vanishing point VP0 having a narrow interval cannot be extracted is not limited to water droplets hitting the window, but there is poor visibility due to snow or fog. In this way, when the vanishing point VPa having a wide interval is extracted, it means that the vanishing point detection accuracy is low, and the detection accuracy of the shield that blocks the line RL is also likely to be low. In the state where the vanishing point VP is low in reliability as shown in FIG. 8D, the arithmetic processing unit 101 determines that the safe traveling of the train TR is hindered, and permits only traveling at a speed limit lower than a predetermined speed. Switch to the operation mode. That is, the poor visibility in front of the train TR can be used as secondary operation-related information.

図9(A)及び9(B)は、特異点について説明する図である。図9(A)及び9(B)は、複数の線路RL,RLeが布設されている地域で得た2次元画像を単純化又は抽象化したものである。この場合、列車TRの正面から延びる線路RLに隣接して別の線路RLeの画像が取り込まれている。別の線路RLeは、線路終端TAを有するが、線路終端TAは、消失点ではなく特異点SPとして処理する。別の線路RLeは、遠方にある場合、自己の線路RLと区別がつかない場合があり、その場合、安全のため2つの線路RL,RLeについて障害物の検出を行うが、上記のように線路RLeに線路終端TAがある場合、本来不要な急制動が必要と判断される可能性がある。このため、線路RLeに線路終端TAによって検出される消失点に類似する特異点SPを、運用走行を含む事前走行等によって記憶部102のデータベースの判定除外リストに予め登録し、或いは判定除外リストに徐々に蓄積すれば、特異点SPを消失点と誤って判断することを回避することができる。具体的には、配置判定部である演算処理部101は、線路RL上の位置情報とリンクさせて消失点となり得ない特異点SPに関する情報を記憶部102にデータベースとして保管し、消失点の候補から特異点SPに対応するものを除外する。これにより、線路終端TAの特異点SPを消失点と判断するような、消失点の誤検出を防止することができる。また、配置判定部である演算処理部101は、列車TRを線路RL上で運用走行又は試験走行させながら、特異点に関する情報を記憶部102にリストとして更新しつつ保管することができる。これにより、監視装置100の運用によって特異点SPに関する情報を蓄積しつ現状に適合させることができる。特異点に関する情報を運用走行で蓄積する場合、例えば3回といった設定回数を超えて同じ箇所で特異点SPが検出された場合にデータベースの判定除外のリストに登録するといった処理が可能である。なお、特異点SPに関する情報は、特異点SPの位置関連情報を含むものであり、列車TRの先頭から観察される特異点SPの方位を列車TRの走行位置ごとに記録したものとすることができる。具体的には、特異点SPに関する情報は、列車TRの位置情報と、その位置で第2計測部42によって撮影される2次元画像中におにおいて特異点SPに対応する画素領域の位置やサイズを与える配置情報とを含む。 9(A) and 9(B) are diagrams for explaining singular points. 9A and 9B are simplified or abstracted two-dimensional images obtained in an area where a plurality of lines RL and RLe are laid. In this case, an image of another track RLe is captured adjacent to the track RL extending from the front of the train TR. Another line RLe has a line termination TA, but the line termination TA is treated as a singular point SP rather than a vanishing point. Another line RLe may be indistinguishable from its own line RL when it is far away. In that case, for safety, the two lines RL and RLe are used to detect obstacles. When RLe has the line termination TA, there is a possibility that it may be judged that unnecessary sudden braking is necessary. Therefore, the singular point SP similar to the vanishing point detected by the line termination TA on the line RLe is registered in advance in the judgment exclusion list of the database of the storage unit 102 or in the judgment exclusion list by pre-travel including operation travel. By gradually accumulating, it is possible to avoid erroneously determining the singular point SP as the vanishing point. Specifically, the arithmetic processing unit 101, which is an arrangement determination unit, stores information regarding a singular point SP, which cannot be a vanishing point by linking with position information on the line RL, as a database in the storage unit 102, and is a candidate for the vanishing point. The one corresponding to the singular point SP is excluded from. As a result, it is possible to prevent erroneous detection of the vanishing point such that the singular point SP of the line termination TA is determined as the vanishing point. In addition, the arithmetic processing unit 101, which is the arrangement determination unit, can store the information about the singularity in the storage unit 102 while updating it as a list while operating or running the train TR on the track RL. As a result, by operating the monitoring device 100, it is possible to accumulate information regarding the singularity SP and adapt it to the current situation. In the case of accumulating information about the singularity during the operation run, for example, when the singularity SP is detected at the same location more than the set number of times such as three times, it is possible to register it in the determination exclusion list of the database. Note that the information regarding the singularity SP includes position-related information about the singularity SP, and the azimuth of the singularity SP observed from the beginning of the train TR may be recorded for each traveling position of the train TR. it can. Specifically, the information regarding the singularity SP is the position information of the train TR and the position and size of the pixel area corresponding to the singularity SP in the two-dimensional image captured by the second measurement unit 42 at that position. And placement information that gives

図10を参照して、走行時における障害物検出の動作について説明する。演算処理部101は、車速検出部34等を利用して列車TRの走行位置を取得する(ステップS21)。次に、演算処理部101は、第1計測部41を利用して物体計測を行う(ステップS22)。これにより、列車TRの前方に物体が存在する場合、その物体の方位(角度)や距離が得られる。次に、演算処理部101は、ステップS21で得た走行位置に対応する存在判定枠AR1を設定するとともに、ステップS22で得た物体の方位及び距離が設定した存在判定枠AR1内であるか否かを判断する(ステップS23)。ここで、存在判定枠AR1は、記憶部102に保管した判定枠データベースを利用して設定され、判定枠データベースは、例えば事前走行によって走行位置ごとに存在判定枠AR1の方位等を紐付けて記録したものとなっている。演算処理部101は、存在判定枠AR1内に物体が存在すると判断した場合(ステップS23でYes)、入出力部103を介して運転手に線路上に障害物が存在することを警報出力する(ステップS24)。この際、演算処理部101は、ブレーキ装置33を適宜動作させて列車TRに緊急停止を行わせることができる。一方、演算処理部101は、存在判定枠AR1内に物体が存在しないと判断した場合(ステップS23でNo)、ステップS21に戻って列車TRの走行位置を取得する処理を再開する。存在判定枠AR1内における物体の計測(ステップS22,S23)と並行して、演算処理部101は、第2計測部42を利用して距離画像や2次元画像を計測し、広域判定枠AR2を設定する(ステップS25)。次に、演算処理部101は、配置判定部として、広域判定枠AR2のうち特に配置判定枠AR21内で、ステップS25で得た2次元画像や距離画像から消失点VPを検出し、消失点VPの手前に遮蔽体(例えば遮蔽体CO2)が存在し、かつ、遮蔽体迄の距離L21と遮蔽体CO2によって途切れた線路RLの遮断端である軌道位置CP2迄の距離L22との距離差Δが所定の上限値以下であるときは、この遮蔽体が線路RL上を進行する列車TRにとっての障害物であると判断する(ステップS26でYes)。この場合、演算処理部101は、入出力部103を介して運転手に線路RL上に障害物が存在することを警報出力する(ステップS24)。遮蔽体が存在しないと判断された場合(ステップS26でNo)、演算処理部101は、配置判定部として、広域判定枠AR2のうち特に近接判定枠AR22内で、ステップS25で得た距離画像や2次元画像から線路RLに近づく接近物体が存在するか否かを判断し、線路RLに近づく接近物体が存在すると判断した場合(ステップS27でYes)、演算処理部101は、入出力部103を介して運転手に線路RLの周辺に接近物体が存在することを警報出力する(ステップS24)。一方、演算処理部101は、存在判定枠AR1内に物体が存在しないと判断した場合(ステップS27でNo)、ステップS21に戻る。以上の処理は、列車TRの運用走行が完了するまで繰り返される(ステップS28でNo)。 An operation of detecting an obstacle during traveling will be described with reference to FIG. The arithmetic processing unit 101 acquires the traveling position of the train TR using the vehicle speed detection unit 34 and the like (step S21). Next, the arithmetic processing unit 101 uses the first measurement unit 41 to perform object measurement (step S22). Thereby, when an object exists in front of the train TR, the azimuth (angle) and the distance of the object can be obtained. Next, the arithmetic processing unit 101 sets the existence determination frame AR1 corresponding to the traveling position obtained in step S21, and determines whether the orientation and distance of the object obtained in step S22 are within the set existence determination frame AR1. It is determined (step S23). Here, the presence determination frame AR1 is set by using the determination frame database stored in the storage unit 102, and the determination frame database is recorded by, for example, preliminarily traveling in association with the orientation of the presence determination frame AR1 for each traveling position. It has been done. When the arithmetic processing unit 101 determines that an object is present in the presence determination frame AR1 (Yes in step S23), it outputs a warning to the driver via the input/output unit 103 that an obstacle is present on the track ( Step S24). At this time, the arithmetic processing unit 101 can appropriately operate the brake device 33 to cause the train TR to make an emergency stop. On the other hand, when the arithmetic processing unit 101 determines that the object does not exist in the presence determination frame AR1 (No in step S23), the process returns to step S21 to restart the process of acquiring the traveling position of the train TR. In parallel with the measurement of the object in the existence determination frame AR1 (steps S22 and S23), the arithmetic processing unit 101 uses the second measurement unit 42 to measure the distance image and the two-dimensional image, and the wide area determination frame AR2 is displayed. It is set (step S25). Next, the arithmetic processing unit 101, as a placement determination unit, detects the vanishing point VP from the two-dimensional image and the distance image obtained in step S25, particularly within the placement determination frame AR21 of the wide area determination frame AR2, and then detects the vanishing point VP. Has a shield (for example, a shield CO2) in front of, and the distance difference Δ between the distance L21 to the shield and the distance L22 to the track position CP2 which is the cut-off end of the line RL interrupted by the shield CO2. When it is less than or equal to the predetermined upper limit value, it is determined that the shield is an obstacle for the train TR traveling on the line RL (Yes in step S26). In this case, the arithmetic processing unit 101 outputs an alarm to the driver via the input/output unit 103 that the obstacle exists on the track RL (step S24). When it is determined that the shield does not exist (No in step S26), the arithmetic processing unit 101 serves as a placement determination unit, particularly in the proximity determination frame AR22 of the wide area determination frame AR2, the distance image obtained in step S25, and the like. If it is determined from the two-dimensional image that there is an approaching object approaching the track RL, and if it is determined that there is an approaching object approaching the track RL (Yes in step S27), the arithmetic processing unit 101 causes the input/output unit 103 to operate. The driver is alerted through the presence of an approaching object around the track RL (step S24). On the other hand, when the arithmetic processing unit 101 determines that there is no object in the presence determination frame AR1 (No in step S27), the calculation processing unit 101 returns to step S21. The above process is repeated until the operation running of the train TR is completed (No in step S28).

以上で説明した実施形態の監視装置100では、配置判定部としての演算処理部101が線路RLに相当する軌道像の消失点VPを含む手前に軌道像を遮蔽する遮蔽体CO2が存在するか否かを判断するので、軌道像を正確に取得できていることを確認しつつ軌道像を局所的に遮蔽する遮蔽体CO2の存否を距離情報とともに得ることができ、障害物となる遮蔽体CO2の検出精度を高めることができる。 In the monitoring device 100 of the embodiment described above, whether the arithmetic processing unit 101 as the arrangement determination unit includes the shield CO2 that shields the orbit image in front of the vanishing point VP of the orbit image corresponding to the line RL. Since it is determined whether or not the orbital image is accurately acquired, the presence or absence of the shield CO2 that locally shields the orbital image can be obtained together with the distance information, and the shield CO2 that becomes an obstacle can be obtained. The detection accuracy can be improved.

この発明は、上記の各実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することが可能である。 The present invention is not limited to the above embodiments, and can be implemented in various modes without departing from the scope of the invention.

車上装置200は、不図示の列車運行管理システムの制御下で、列車TRの自動運転を可能としており、自動運転については、運転士を乗せた状態で行う場合のほか、運転士がいない完全無人の自動運転も含み得るものとしている。自動運転については、運行区間の全体を運転士がいない完全無人の自動運転とする場合のほか、運行区間の一部を、運転士を乗せた状態で自動運転とする場合や、運行区間の一部については、自動運転とせず、運転士による通常運転とすることも考えられる。 The on-board device 200 enables automatic operation of the train TR under the control of a train operation management system (not shown). The automatic operation is performed without a driver except when the driver is on board. It also includes unmanned autonomous driving. Regarding autonomous driving, in addition to the case where the entire operation section is fully unmanned without a driver, a part of the operation section is automatically operated with a driver, It is also possible that the department will be operated by a driver instead of automatically.

以上では、消失点VPの手前に遮蔽体CO2が存在する場合に、障害物となる可能性があるとしたが、遮蔽体CO2が消失点を兼ねている場合も、遮蔽体CO2が障害物となる可能性があると判断してもよい。この場合も、遮蔽体CO2迄の距離L21と、遮蔽体CO2によって途切れた線路RLの遮断端である軌道位置CP2迄の距離L22との距離差Δが所定の上限値以下であることが障害物であると判断する前提条件となる。 In the above description, when the shield CO2 is present before the vanishing point VP, it may become an obstacle. However, even when the shield CO2 also serves as the vanishing point, the shield CO2 becomes an obstacle. It may be determined that there is a possibility that In this case also, the obstacle Δ is that the distance difference Δ between the distance L21 to the shield CO2 and the distance L22 to the track position CP2 which is the cut-off end of the line RL interrupted by the shield CO2 is equal to or less than a predetermined upper limit value. It is a prerequisite for determining that

監視装置100は、車上装置200に組み込むのではなく、遠隔の列車運行管理システム側に部分的に組み込むこともできる。 The monitoring device 100 may be partially incorporated in a remote train operation management system side instead of being incorporated in the on-board device 200.

監視装置100による監視対象は、鉄道の線路RLに限らず、路面電車用の軌道であってもよい。 The monitoring target by the monitoring device 100 is not limited to the railroad track RL, but may be a tramway.

31…車両制御装置、 34…車速検出部、 35…車上子、 37…通信部、 41…第1計測部、 42…第2計測部、 100…監視装置、 101…演算処理部、 102…記憶部、 103…入出力部、 104…インターフェース部、 200…車上装置、 AL…近似線、 AR1…存在判定枠、 AR2…広域判定枠、 AR21…配置判定枠、 AR22…近接判定枠、 CO1,CO2…遮蔽体、 CO3…周辺物体、 CP1…軌道位置、 CP2…軌道位置、 P6,P7…自動車、 RC…軌道中心、 RL…線路、 RLa,RLb…レール、 SP…特異点、 TA…線路終端、 TR…列車、 VP…消失点 31... Vehicle control device, 34... Vehicle speed detection part, 35... Vehicle upper part, 37... Communication part, 41... First measuring part, 42... Second measuring part, 100... Monitoring device, 101... Arithmetic processing part, 102... Storage unit 103... Input/output unit 104... Interface unit 200... On-board device, AL... Approximate line, AR1... Presence determination frame, AR2... Wide area determination frame, AR21... Arrangement determination frame, AR22... Proximity determination frame, CO1 , CO2... Shield, CO3... Peripheral object, CP1... Orbital position, CP2... Orbital position, P6, P7... Car, RC... Trajectory center, RL... Rail, RLa, RLb... Rail, SP... Singularity, TA... Rail Terminal, TR... Train, VP... Vanishing point

Claims (11)

軌道及びその周辺における物体の像を距離情報とともに取得する計測部と、
前記計測部による測定結果から軌道像を抽出するとともに、前記軌道像の消失点を含む手前に前記軌道像を遮蔽する遮蔽体が存在するか否かを判断する配置判定部と
を備える監視装置。
A measurement unit that acquires an image of an object in the trajectory and its surroundings together with distance information,
An arrangement determination unit that extracts a trajectory image from the measurement result by the measurement unit and that determines whether or not a shield that shields the trajectory image exists before the vanishing point of the trajectory image.
前記配置判定部は、前記遮蔽体と前記遮蔽体に対応する軌道位置との距離差が所定以下である場合に、前記遮蔽体を障害物であると判断する、請求項1に記載の監視装置。 The monitoring device according to claim 1, wherein the placement determination unit determines that the shield is an obstacle when a distance difference between the shield and a trajectory position corresponding to the shield is less than or equal to a predetermined value. .. 前記配置判定部は、所定の配置判定枠内に前記遮蔽体が存在する場合に、前記遮蔽体を障害物であると判断する、請求項1及び2のいずれか一項に記載の監視装置。 The monitoring device according to claim 1, wherein the placement determination unit determines that the shield is an obstacle when the shield is present within a predetermined placement determination frame. 前記消失点は、前記軌道像上で軌道間隔が所定以下になった点である、請求項1〜3のいずれか一項に記載の監視装置。 The said vanishing point is a monitoring apparatus as described in any one of Claims 1-3 which is a point where the track|orbit space|interval became below the predetermined on the said track|orbit image. 前記配置判定部は、所定の配置判定枠内に近づく接近物体が存在するか否かを判断する、請求項1〜4のいずれか一項に記載の監視装置。 The monitoring apparatus according to claim 1, wherein the placement determination unit determines whether or not there is an approaching object approaching within a predetermined placement determination frame. 前記配置判定部は、前記所定の配置判定枠外の物体の移動速度及び移動方向を判定する、請求項5に記載の監視装置。 The monitoring device according to claim 5, wherein the placement determination unit determines a moving speed and a moving direction of an object outside the predetermined placement determination frame. 前記配置判定部は、前記軌道像の消失点を抽出できなかった場合、視界不良状態と判定する、請求項1〜6のいずれか一項に記載の監視装置。 The monitoring device according to any one of claims 1 to 6, wherein the arrangement determination unit determines that the visibility is in a poor state when the vanishing point of the orbit image cannot be extracted. 前記配置判定部は、前記軌道上の位置情報とリンクさせて前記消失点となり得ない特異点に関する情報を保管し、前記消失点の候補から前記特異点に対応するものを除外する、請求項1〜7のいずれか一項に記載の監視装置。 The arrangement determining unit stores information regarding a singular point that cannot be the vanishing point by linking with the position information on the trajectory, and excludes information corresponding to the singular point from the vanishing point candidates. The monitoring device according to claim 7. 前記配置判定部は、前記特異点に関する情報を更新しつつ保管する、請求項8に記載の監視装置。 The monitoring device according to claim 8, wherein the placement determination unit stores the information regarding the singularity while updating the information. 前記計測部は、物体について3次元的な配置を計測可能にするカメラ又はレーザーレーダー装置を有する、請求項1〜9のいずれか一項に記載の監視装置。 The monitoring device according to any one of claims 1 to 9, wherein the measurement unit includes a camera or a laser radar device capable of measuring a three-dimensional arrangement of an object. 物体の方位及び距離を計測するためのレーダー装置又はレーザーレーダー装置の出力に基づいて、前記軌道に沿った走行位置に応じて設定される所定の存在判定枠内に存在する物体を検出する存在判定部をさらに備える、請求項1〜10のいずれか一項に記載の監視装置。 Presence determination for detecting an object existing within a predetermined presence determination frame set according to the traveling position along the trajectory based on the output of a radar device or a laser radar device for measuring the direction and distance of the object The monitoring device according to claim 1, further comprising a unit.
JP2018248795A 2018-12-29 2018-12-29 monitoring device Active JP7290942B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018248795A JP7290942B2 (en) 2018-12-29 2018-12-29 monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018248795A JP7290942B2 (en) 2018-12-29 2018-12-29 monitoring device

Publications (2)

Publication Number Publication Date
JP2020108979A true JP2020108979A (en) 2020-07-16
JP7290942B2 JP7290942B2 (en) 2023-06-14

Family

ID=71569892

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018248795A Active JP7290942B2 (en) 2018-12-29 2018-12-29 monitoring device

Country Status (1)

Country Link
JP (1) JP7290942B2 (en)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05116626A (en) * 1991-10-30 1993-05-14 East Japan Railway Co Obstacle detecting device for railway rolling stock
JP2002131432A (en) * 2000-10-24 2002-05-09 Honda Motor Co Ltd Advancing locus estimating device for vehicle
JP2004280194A (en) * 2003-03-12 2004-10-07 Toshiba Corp Forward monitor and method therefor
US20090037039A1 (en) * 2007-08-01 2009-02-05 General Electric Company Method for locomotive navigation and track identification using video
JP2015050652A (en) * 2013-09-02 2015-03-16 公益財団法人鉄道総合技術研究所 Rail vanishing point detector, front monitor camera device for railroad, railroad vehicle, and rail vanishing point detection method and control method
JP2016525487A (en) * 2013-07-31 2016-08-25 カッツ、エレン ヨセフKATZ, Elen Josef Obstacle identification and avoidance system and method
JP2016192109A (en) * 2015-03-31 2016-11-10 公益財団法人鉄道総合技術研究所 Method and device for obstacle detection
JP2017001638A (en) * 2015-06-16 2017-01-05 西日本旅客鉄道株式会社 Train position detection system using image processing, and train position and environmental change detection system using image processing

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05116626A (en) * 1991-10-30 1993-05-14 East Japan Railway Co Obstacle detecting device for railway rolling stock
JP2002131432A (en) * 2000-10-24 2002-05-09 Honda Motor Co Ltd Advancing locus estimating device for vehicle
JP2004280194A (en) * 2003-03-12 2004-10-07 Toshiba Corp Forward monitor and method therefor
US20090037039A1 (en) * 2007-08-01 2009-02-05 General Electric Company Method for locomotive navigation and track identification using video
JP2016525487A (en) * 2013-07-31 2016-08-25 カッツ、エレン ヨセフKATZ, Elen Josef Obstacle identification and avoidance system and method
JP2015050652A (en) * 2013-09-02 2015-03-16 公益財団法人鉄道総合技術研究所 Rail vanishing point detector, front monitor camera device for railroad, railroad vehicle, and rail vanishing point detection method and control method
JP2016192109A (en) * 2015-03-31 2016-11-10 公益財団法人鉄道総合技術研究所 Method and device for obstacle detection
JP2017001638A (en) * 2015-06-16 2017-01-05 西日本旅客鉄道株式会社 Train position detection system using image processing, and train position and environmental change detection system using image processing

Also Published As

Publication number Publication date
JP7290942B2 (en) 2023-06-14

Similar Documents

Publication Publication Date Title
US11834040B2 (en) Recognition and prediction of lane constraints and construction areas in navigation
US11200433B2 (en) Detection and classification systems and methods for autonomous vehicle navigation
US10690770B2 (en) Navigation based on radar-cued visual imaging
CN106909152B (en) Automobile-used environmental perception system and car
US10591928B2 (en) Vehicle control device, vehicle control method, and computer readable storage medium
CN110171405B (en) System and method for braking vehicle based on detection object
CN108271408B (en) Generating three-dimensional maps of scenes using passive and active measurements
JP7128625B2 (en) Vehicle system, vehicle information processing method, program, transportation system, infrastructure system, and infrastructure information processing method
CN115668182A (en) Autonomous vehicle context aware software architecture
CN111295321A (en) Obstacle detection device
WO2019008716A1 (en) Non-visible measurement device and non-visible measurement method
CN109031302A (en) Analyze the method and apparatus of vehicle environmental and the vehicle equipped with this device
US20240199006A1 (en) Systems and Methods for Selectively Decelerating a Vehicle
KR102017958B1 (en) Augmented reality head up display system for railway train
JP2019207651A (en) Detection device and detection system
KR20200055965A (en) Traffic monitoring system using LIDAR for notification of road obstacles and vehicle tracking
JP7217094B2 (en) monitoring device
CN113844443A (en) Autonomous driving collision prevention
KR20230031344A (en) System and Method for Detecting Obstacles in Area Surrounding Vehicle
JP6699728B2 (en) Inter-vehicle distance estimation method and inter-vehicle distance estimation device
JP7350598B2 (en) monitoring device
JP7290942B2 (en) monitoring device
JP7384147B2 (en) Target object detection device and vehicle equipped with it
JP7316107B2 (en) monitoring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230602

R150 Certificate of patent or registration of utility model

Ref document number: 7290942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150