JP7241906B2 - データ処理装置およびデータ処理方法 - Google Patents

データ処理装置およびデータ処理方法 Download PDF

Info

Publication number
JP7241906B2
JP7241906B2 JP2021553995A JP2021553995A JP7241906B2 JP 7241906 B2 JP7241906 B2 JP 7241906B2 JP 2021553995 A JP2021553995 A JP 2021553995A JP 2021553995 A JP2021553995 A JP 2021553995A JP 7241906 B2 JP7241906 B2 JP 7241906B2
Authority
JP
Japan
Prior art keywords
sensor
data
information
unit
map information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021553995A
Other languages
English (en)
Other versions
JPWO2021084696A5 (ja
JPWO2021084696A1 (ja
Inventor
孝一 山下
康平 栗原
正太郎 守谷
大祐 鈴木
晴久 奥田
昌志 渡辺
貴敬 中野
憲治 猪又
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021084696A1 publication Critical patent/JPWO2021084696A1/ja
Publication of JPWO2021084696A5 publication Critical patent/JPWO2021084696A5/ja
Application granted granted Critical
Publication of JP7241906B2 publication Critical patent/JP7241906B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/89Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • G01S13/90Radar or analogous systems specially adapted for specific applications for mapping or imaging using synthetic aperture techniques, e.g. synthetic aperture radar [SAR] techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Navigation (AREA)

Description

本発明は、センサによって得られた情報を処理するデータ処理装置およびデータ処理方法に関する。
近年、センサ情報が様々な分野で活用されている。センサ情報は、センサの観測によって得られた情報であり、センサによって取得されたデータ、または当該データが処理されたデータである。センサとしては、電磁波をパッシブに観測するパッシブセンサ、電磁波を送出して反射された電磁波を観測するアクティブセンサが挙げられる。パッシブセンサとしては、いわゆるイメージセンサと呼ばれるセンサが例示され、アクティブセンサとしては、合成開口レーダ(SAR:Synthetic Aperture Radar)、レーザスキャナが例示される。
センサ情報は、例えば、地震、豪雨といった自然災害、または火災、事故といった人為的な災害の状況把握に利用可能である。また、災害の状況把握だけでなく、センサ情報を用いて災害の予兆を検知して、防災対策に役立てることも検討されている。さらには、センサ情報は、作物の生育状態の把握、交通渋滞の状況の把握等にも用いられる。
特許文献1には、人工衛星に搭載されたSARの観測により得られる画像を用いて、液状化、盛土崩壊等の地域を把握する技術が開示されている。特許文献1に記載の地表変状可視化装置は、異なる時刻にSARにより取得されたデータを用いて、干渉縞画像と干渉性の低い領域を示す画像とを生成し、これらの画像を重畳して表示する。液状化、盛土崩壊等により地表面に変化が生じた領域は干渉性の低い領域として表示されるが、河川等ではこれらの現象にかかわらず水面の状態が常に変動しているので元々干渉性が低い。特許文献1では、干渉縞画像と干渉性の低い領域を示す画像とが重畳して表示されるので、利用者は、干渉性の低い領域が河川等であるか、液状化、盛土崩壊等の地域であるかを判別しやすくなる。また、特許文献1には、これらの画像を地形表現図とさらに重畳して表示することも記載されている。
特開2018-40728号公報
しかしながら、上記特許文献1に記載の技術によれば、SARの観測により得られた画像と地形表現図とを重畳して表示する際に、SARの観測データの処理において求められた当該観測データに対応する地表面の位置と地形表現図における地図座標とに基づいて位置合わせを行っている。通常、人工衛星に搭載されたSARの観測データに対応する地表面の位置は、人工衛星の軌道情報および姿勢情報、オフナディア角等の情報を用いて算出されるが、このようにして算出された位置は、座標系の定義の差、算出に用いた情報の誤差等によって、地図座標と整合しているとは限らない。すなわち、SARの観測データの処理において求められた位置が表されている座標系と、地図座標の座標系とが異なっている可能性がある。したがって、特許文献1に記載の技術では、地形表現図と干渉性の低い領域を示す画像とが重畳されて表示されると、利用者は、干渉性の低い領域の位置を誤って認識してしまう可能性がある。
一方、近年、様々な種類のセンサが様々な場所に設置されており、これらのセンサが同一箇所を観測していることがある。センサの種類または設置場所等によって得られるデータの特性が異なるので、同一箇所を観測した複数のセンサの観測データを用いると、当該箇所に関する情報が増える。しかしながら、これらのデータはそれぞれ個別に位置が算出されているため、例えば、上記特許文献1に記載の技術のように、これら複数のセンサによって得られたデータをそのまま重畳して表示すると位置ずれが生じる可能性がある。また、表示に限らず、これら複数のセンサによって得られたデータを用いて、災害箇所の検出、作物の生育状態の把握、交通渋滞の状況の把握といった解析を行う場合、位置合わせが高精度にされていないと、精度のよい解析結果が得られない。
本発明は、上記に鑑みてなされたものであって、複数のセンサによって得られたデータに対応する被観測位置の位置合わせを高精度に行うことができるデータ処理装置を得ることを目的とする。
上述した課題を解決し、目的を達成するために、本発明にかかるデータ処理装置は、対象地域の地図を含むデータである地図情報と、複数のセンサによって対象地域がそれぞれ観測されることによって得られる複数の観測データとのなかから、対象地域内の基準対象物に対応する部分である特徴要素を抽出する特徴要素抽出部、を備える。データ処理装置は、さらに、地図情報および複数の観測データのうちの1つを、位置合わせの基準とする基準データとして選択する選択部と、複数の観測データのそれぞれについて、観測データに対応する特徴要素の位置を、基準データにおける特徴要素の位置と一致させるように、当該観測データの位置合わせを行う位置合わせ部と、を備える。特徴要素抽出部は、地図情報から抽出された特徴要素を用いて、センサごとに、当該センサで基準対象物が観測されたデータを模擬する模擬特徴要素を生成し、センサごとに、対応する模擬特徴要素を用いて、当該センサに対応する観測データから特徴要素を抽出する。
本発明にかかるデータ処理装置は、複数のセンサによって得られたデータに対応する被観測位置の位置合わせを高精度に行うことができるという効果を奏する。
実施の形態1にかかるデータ処理装置の構成例を示す図 実施の形態1のデータ処理装置を実現するコンピュータシステムの構成例を示す図 実施の形態1のデータ処理装置における全体処理の流れの一例を示す図 実施の形態1のセンサ情報の構成例を示す図 実施の形態1の特徴要素の対応付け処理手順の一例を示すフローチャート 実施の形態1の特性情報の一例を示す図 実施の形態1の解析部により抽出された変化領域を地図情報に重ね合わせた表示画面の一例を示す図 実施の形態1の解析部により算出された変位量を地図情報に重ね合わせた表示画面の一例を示す図 実施の形態1の解析部により算出された浸水領域を可視センサ画像データに重ね合わせた表示画面の一例を示す図 実施の形態2のデータ処理装置の構成例を示す図 実施の形態2のデータ処理装置における全体処理の流れの一例を示す図 実施の形態2の対応付け部による特徴要素対応付け処理の一例を示すフローチャート 実施の形態3のデータ処理装置の構成例を示す図 実施の形態3の模擬特徴要素生成処理の一例を示すフローチャート 実施の形態3のデータ処理装置における全体処理の流れの一例を示す図
以下に、本発明の実施の形態にかかるデータ処理装置およびデータ処理方法を図面に基づいて詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。
実施の形態1.
図1は、本発明の実施の形態1にかかるデータ処理装置の構成例を示す図である。本実施の形態のデータ処理装置1は、複数のセンサにそれぞれ対応するセンサ情報をセンサ情報提供装置2から取得して、これらのセンサ情報の位置合わせを行う装置である。位置合わせが行われた後のセンサ情報は、例えば、災害発生時の災害箇所の抽出、作物の生育状態の把握、交通渋滞の状況の把握等に用いられる。また、複数の時点のセンサ情報を使えば、これらの変位を把握することもできる。
センサ情報は、センサの観測によって得られた観測データを含む。観測データは、センサによって取得されたデータ、または当該データが処理されたデータである。また、センサ情報は、センサの観測日時を示す情報と、センサにより観測された観測場所の位置を算出するための観測情報とを含む。センサは、人工衛星、航空機、ドローン、ヘリコプター等に搭載されたセンサであってもよく、車両等に搭載されたセンサであってもよく、地表、建物等に固定されたセンサであってもよい。
センサは、パッシブセンサであってもアクティブセンサであってもよい。パッシブセンサとしては、可視光、赤外光、紫外光等を観測するイメージセンサが例示される。アクティブセンサとしては、SAR、3次元点群データを取得するLIDAR(Laser Imaging Detection and Ranging:ライダー)が例示される。センサは、これら以外のセンサであってもよい。
データ処理装置1は、センサ情報を提供するセンサ情報提供装置2と地図情報を提供する地図情報提供装置3とに、それぞれ通信回線により接続される。これらの通信回線は、有線回線であっても無線回線であってもよく、無線回線と有線回線とが混在していてもよい。ここでは、データ処理装置1が、センサ情報提供装置2および地図情報提供装置3から、通信回線を介して情報を取得する例を説明するが、データ処理装置1が、センサ情報提供装置2および地図情報提供装置3から情報を取得する方法は通信回線を介する例に限定されない。例えば、センサ情報提供装置2によって記録媒体にセンサ情報が記録され、データ処理装置1が記録媒体から情報を読み出すようにしてもよい。地図情報についても同様に記録媒体を介して地図情報提供装置3からデータ処理装置1へ提供されてもよい。
また、センサ情報提供装置2および地図情報提供装置3は、データ処理装置1を運用および管理する組織以外の管理者により管理される外部の装置であってもよいし、データ処理装置1を運用および管理する組織により管理される装置であってもよい。例えば、データ処理装置1が、位置合わせ後のセンサ情報、または位置合わせ後のセンサ情報を用いた解析結果を、災害対策等のために、自治体へ提供する場合、センサ情報提供装置2および地図情報提供装置3は、データ処理装置1を運用および管理する組織により管理され、国全体等広域のセンサ情報および状態情報を外部の装置から取得する。そして、データ処理装置1が、センサ情報提供装置2および地図情報提供装置3から、自治体ごとに、対応する情報を取得するようにしてもよい。
図1に示すように、データ処理装置1は、センサ情報取得部11、地図情報取得部12、処理情報記憶部13、特徴要素抽出部14、第1処理部15-1~第n処理部15-n、対応付け部16、解析部17、表示処理部18、情報出力部31および調整部32を備える。nは、データ処理装置1が、処理対象とするセンサ情報に対応するセンサの数である。例えば、データ処理装置1が、赤外イメージセンサである赤外センサ、可視イメージセンサである可視センサ、SARおよびLIDARの4つのセンサにそれぞれ対応するセンサ情報を処理する場合は、nは4である。なお、nは処理対象とするセンサの最大数であり、データ処理装置1は、n個のセンサのうち一部のセンサに対応するセンサ情報を用いた処理を行うことも可能である。例えば、赤外センサ、可視センサ、SARおよびLIDARの4つのセンサを処理対象とするデータ処理装置1が、LIDARのセンサ情報を用いずに、赤外センサ、可視センサおよびSARのセンサ情報を用いた処理を行うことも可能である。
センサ情報取得部11は、センサ情報提供装置2からセンサ情報を取得する。センサ情報取得部11は、取得したセンサ情報を処理情報記憶部13へ格納する。センサが人工衛星である場合には、センサ情報提供装置2は、人工衛星の軌道位置、センサの運用条件等を示す観測情報とともに、センサにより観測されたデータまたは当該データに処理を施したデータを提供する。センサが人工衛星である場合には、センサ情報取得部11は、解析の対象となる対象地域を含むセンサ情報をセンサ情報提供装置2から取得する。対象地域は、データ処理装置1が行う解析の内容によって適宜設定される。データ処理装置1が自治体の災害対応を支援するための解析を行う場合は、対象地域は当該自治体を含む領域であり、データ処理装置1が地球全体を解析対象とする処理である場合には、対象地域は、地球全体である。
センサ情報取得部11は、例えば、定められたデータサイズごとに、センサ情報を取得する。定められたデータサイズは、例えば、センサ情報提供装置2からセンサ情報が配布される際の最小のデータ単位であるが、これに限定されない。また、センサ情報取得部11は、定められたデータサイズごとにセンサ情報を取得するかわりに、定められた観測領域の大きさごとにセンサ情報を取得してもよい。データサイズまたは観測領域の大きさにより定まる1かたまりのセンサ情報を、以下、1画像分のセンサ情報とも呼ぶ。対象地域が1画像分のセンサ情報に対応する領域より広い場合には、センサ情報取得部11は、複数画像分のセンサ情報を取得する。
また、データ処理装置1は、後述するように災害の発生前後のセンサ情報の差分を用いることで変化領域を抽出する解析を行う場合、災害の発生していない平時において、少なくも1回は対象地域に対応するセンサ情報を取得して後述する位置合わせ処理を実施しておく。または、センサ情報提供装置2が過去のセンサ情報も提供している場合には、センサ情報取得部11は、災害の発生後に、対応の優先順位を決定する際に、災害の発生後のセンサ情報とともに、過去のすなわち災害の発生前のセンサ情報を取得して位置合わせ処理を実施してもよい。
人工衛星の観測データは、一般に、生データから高次プロダクトまで様々なレベルのデータとして提供される。本実施の形態のセンサ情報は、これらのどのレベルのデータに対応するものであってもよい。なお、本実施の形態では、解析部17における解析で用いるため、または表示するために、位置に対応する画素ごとの輝度、散乱強度、標高等が示される画像データ、または3次元の座標値の点で表される3次元点群データを用いる。したがって、センサ情報として提供される観測データが、画像データ等ではない場合には、当該センサに対応する第1処理部15-1~第n処理部15-nが、観測データから画像データを生成するための処理を実施する。また、センサ情報が、センサ特有のラジオメトリックな校正、幾何補正等が行われていない観測データを含む場合、当該センサに対応する第1処理部15-1~第n処理部15-nが、センサ特有のラジオメトリックな校正、幾何補正等を行って画像データを生成すればよい。
航空機、車両等に搭載されるセンサのセンサ情報も、同様に、センサ情報提供装置2から位置情報とともに取得される。ただし、人工衛星に搭載されたセンサの観測データは、災害が生じているか否かに関わらず取得されるが、航空機、車両等に搭載されるセンサは、災害が発生した後に、災害が発生したと想定される地域を観測することもある。この場合、災害発生前のセンサ情報が得られない可能性がある。災害発生前のセンサ情報が得られない場合は、シミュレーション等によって災害発生前のセンサ情報を生成してもよい。または、平時においても、例えば、定期的に航空機、車両等に搭載されるセンサの観測を行っておき、センサ情報取得部11が、平時のセンサ情報をセンサ情報提供装置2から取得してもよい。
センサが位置の固定されたセンサである場合、センサ情報提供装置2は、センサ自体またはセンサに接続された処理装置等であってもよい。例えば、センサが、路側センサ、建物に設置されたカメラ等である場合、センサ情報取得部11は、対象地域を観測するセンサからセンサ情報を取得してもよい。または、固定された複数のセンサのセンサ情報がサーバ等により集約されて管理されている場合には、このサーバ等がセンサ情報提供装置2となる。
地図情報取得部12は、対象地域の地図を含むデータである地図情報を地図情報提供装置3から取得し、取得した地図情報を処理情報記憶部13へ格納する。地図情報は、具体的には例えば3次元地図データであり、当該3次元地図データの精度を示す情報とともに提供される。3次元地図データとしては、人工衛星に搭載されたセンサの観測データに基づいて生成される全球を対象としたもの、自動運転のためにLIDAR、カメラなどのセンサによって観測されたデータに基づいて生成された高精度なもの等、様々なものがある。地図情報取得部12は、1種類の3次元地図データを用いてもよいし、複数の種類の3次元地図データから、対象地域に応じて精度のよい地図情報を選択して取得してもよい。3次元地図データは、数値標高モデル(DEM:Digital Elevation Model)のように3次元座標値で表されたものであってもよいし、ベクター形式のデータであってもよい。
特徴要素抽出部14は、処理情報記憶部13に記憶された地図情報から特徴要素を抽出する。さらに、特徴要素抽出部14は、抽出した特徴要素を用いて、センサごとに、当該センサで基準対象物が観測されたデータを模擬する模擬特徴要素を生成する。詳細には、特徴要素抽出部14は、処理対象の領域である対象地域の地図情報から、位置合わせに用いる地上の基準対象物を選択する。基準対象物は、複数の地上基準点(GCP:Ground Control Point)、自然形成された造形物および建造物のうちの少なくとも1つである。自然形成された造形物は、例えば、河川、湖等である。建造物は、建物、道路、線路、等である。地上基準点は、幾何補正、測量のために設けられたものであり、高精度に位置が定められている。また、基準対象物として、河川、道路といった線状の造形物を用いると、位置合わせの精度を高めることができる。また、河川、道路といった線状の造形物を用いると、注目領域が撮像領域の境界であっても、撮像領域の境界をまたぐ線状の特徴物の連続性を考慮して位置合わせすることで、撮像領域の境界の不連続を防ぐことができる。特徴要素抽出部14は、地図情報から、選択した基準対象物に対応する領域を特徴要素として抽出する。特徴要素抽出部14は、抽出された特徴要素の位置情報に基づいて、基準対象物をセンサで観測したときに得られる模擬データを模擬特徴要素として生成する。模擬データは、センサがイメージセンサの場合には画像データであり、センサがLIDAR等の場合には、3次元点群データである。特徴要素の位置情報は、例えば、特徴要素の形状を示す3次元座標値であってもよいし、ポリゴンなどの情報であってもよい。模擬特徴要素は、撮影方向、解像度、振幅、歪などの撮像条件も反映して作成される。
第1処理部15-1~第n処理部15-nは、n個のセンサにそれぞれ対応した処理を行う。第1処理部15-1~第n処理部15-nのそれぞれは、補正部21、特徴要素抽出部22および位置合わせ部23を備える。なお、図1では、第1処理部15-1を構成する補正部21、特徴要素抽出部22および位置合わせ部23を図示しているが、第2処理部15-2~第n処理部15-nも同様に補正部21、特徴要素抽出部22および位置合わせ部23を備える。第1処理部15-1~第n処理部15-nの補正部21は、処理情報記憶部13に記憶されたセンサ情報のうち対応するセンサのセンサ情報を読み出す。そして、第1処理部15-1~第n処理部15-nの補正部21は、センサ情報に対して、ラジオメトリックな校正、観測領域の位置の算出処理などを含むセンサ固有の補正を行うことによりセンサ画像データを生成する。なお、データ処理装置1が、ラジオメトリックな校正等の補正が施されたセンサ画像データ自体をセンサ情報として取得する場合には、対応する第1処理部15-1~第n処理部15-nは、補正処理を行わなくてもよい。また、ここでは、センサ画像データは、画像として表示される一般的な画像データに限らず、処理を施すことにより画像として表示可能なデータも含む。処理を施すことにより画像として表示可能なデータの一例は、3次元点群データである。すなわち、各センサのセンサ画像データは、センサによって対象地域が観測されることにより得られる観測データである。また、第1処理部15-1~第n処理部15-nの補正部21は、人工衛星、航空機、ドローン等などに搭載されたセンサのセンサ画像データに対してオルソ補正を行う。
第1処理部15-1~第n処理部15-nの特徴要素抽出部22は、特徴要素抽出部14により生成された模擬特徴要素を用いて、センサ画像データから、基準対象物に対応する領域すなわち特徴要素を抽出し、抽出した特徴要素と模擬特徴要素との類似度を算出する。詳細には、第1処理部15-1~第n処理部15-nの特徴要素抽出部22は、模擬特徴要素により示される形状と最も一致する領域を特徴要素として抽出する。特徴要素の抽出方法は、画像処理で一般的に行われている方法を用いることができるため詳細な説明は省略する。類似度としては、どのような指標を用いても良いが、ユークリッド距離、相関係数等を用いることができる。第1処理部15-1~第n処理部15-nの特徴要素抽出部22は、抽出された特徴要素の位置を示す情報を、類似度とともに、対応付け部16へ出力する。なお、本実施の形態では、地図データに基づいて各センサの模擬特徴要素を生成し、模擬特徴要素とセンサ画像から抽出された特徴要素とを比較しているが、これに限らず、各センサの特徴要素に基づいて地図データの特徴要素を模擬してもよい。この場合、各センサに対応する特徴要素と、各センサ画像データに基づいて生成された地図データの特徴要素の模擬データとの類似度が算出される。
また、第1処理部15-1~第n処理部15-nの位置合わせ部23は、対応付け部16から出力される、後述する座標変換情報に基づいて、局所変換パラメータを生成する。局所変換パラメータは、センサ情報に対応する座標系で表された特徴要素の位置すなわち座標値を、基準座標系における座標値に変換するための変換行列における各要素を示す。第1処理部15-1~第n処理部15-nの位置合わせ部23は、さらに、局所変換パラメータを用いてセンサ画像を変換する処理、すなわち位置合わせ画像変換を実施する。第1処理部15-1~第n処理部15-nの位置合わせ部23は、位置合わせ画像変換後のセンサ画像データを、地図整合情報として処理情報記憶部13へ格納する。第1処理部15-1~第n処理部15-nの動作の詳細については後述する。
本実施の形態の選択部である対応付け部16は、地図情報および複数のセンサ情報のうちの1つを、位置合わせの基準とする基準データとして選択する。詳細には、対応付け部16は、第1処理部15-1~第n処理部15-nのそれぞれから出力される類似度と、処理情報記憶部13に記憶されている特性情報とに基づいて、複数のセンサにそれぞれ対応する複数のセンサ情報の位置合わせにおける基準座標系を決定する。基準座標系は、基準データとして選択された地図情報またはセンサ情報の座標系である。対応付け部16は、特徴要素抽出部14によって抽出された特徴要素の位置を示す情報と、第1処理部15-1~第n処理部15-nによって抽出された特徴要素の位置を示す情報とに基づいて、各センサに対応する座標変換情報を生成する。対応付け部16は、各センサに対応する座標変換情報を対応する第1処理部15-1~第n処理部15-nへそれぞれ出力する。座標変換情報は、基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを含む。対応付け部16の動作の詳細については後述する。
解析部17は、処理情報記憶部13に格納されたセンサごとの、地図整合情報を用いて解析を行い、解析結果を処理情報記憶部13に格納する。解析部17が行う解析の一例は、観測データであるセンサ画像データを用いて災害の発生した箇所を抽出する処理であり、この処理は、例えば、災害発生の前後で変化した変化領域を抽出する処理である。解析部17は、例えば、処理情報記憶部13に記憶されている地図整合情報を用いて地球の表面の変化領域を抽出し、変化領域を示す変化領域情報を解析結果として出力する。地球の表面は、陸域の表面、海面、湖および河川の水面、地表に建設された建物を含む。また、解析部17は、地球上の大気の変化領域を抽出してもよい。解析部17は、例えば、災害発生前の地図整合情報と災害発生後の地図整合情報との差分に基づいて変化領域を抽出する。例えば、解析部17は、地図整合情報のうちSARにより取得されたデータに基づいて、画素ごとの、輝度、散乱強度、標高などの差分を算出し、差分が閾値以上となる画素を抽出する。
解析部17は、連続する画素で差分が閾値以上となっていれば、連続するこれらの画素に対応する部分を1つの変化領域とする。なお、センサ情報には、どの画素がどの位置に対応するかの情報が含まれているが、この情報は、例えば、画像ごとの、画素の位置とこの位置を基準に各画素の位置を算出するための情報とで構成される。どの画素がどの位置に対応するかの情報は、この形式に限定されず、どのような形式であってもよい。解析部17は、差分が閾値以上となる画素を抽出した後に、上記の情報に基づいてこの画素に対応する位置を算出することにより、変化領域の位置を求めることができる。解析部17は、変化領域の位置、すなわち差分が閾値以上となる画素の位置を、解析結果として出力する。一般に、変化領域は連続する複数の画素を含むので、画素によって差分が異なる場合には、複数の画素の平均値を変位量としてもよいし、最大値を変位量としてもよい。
また、解析部17は、画素ごとに、変化すなわち差分を求めるための基準値である災害発生前に観測された情報のかわりに、これまでの測量結果、解析などにより算出された情報を基準情報として用いて差分を求めてもよい。また、ここでは、画素ごとに、輝度、散乱強度などを比較する例を示したが、これに限らず、センサ情報に標高が含まれる場合には、解析部17は、過去に取得されたセンサ情報と、最新のセンサ情報との標高の差分を求め、差分が閾値以上となる部分を変化領域として求めてもよい。また、解析部17は、過去に取得されたセンサ情報から求められた地図整合情報と、最新のセンサ情報から求められた地図整合情報との両方から、画像処理により、建物、川、道路などの輪郭を抽出し、これらの輪郭の差分を求めてもよい。
なお、解析部17は、変化領域の閾値を機械学習によって求める等のように、センサ画像データを入力とする機械学習により解析を行ってもよい。
以上の説明では、なんらかの基準情報と比較して差分を求めることにより変化領域を抽出したが、変化領域の抽出は、基準情報を用いなくてもよい。例えば、センサ情報が赤外光を検出するセンサにより得られた赤外画像である場合、画素に対応する温度が閾値以上となる領域を、火災、または火山活動などによる変化領域として抽出することができる。解析部17は、赤外画像に限らず、センサ情報として得られた画像の、画素に対応する輝度、散乱強度などが、あらかじめ定められた範囲を逸脱している領域を変化領域として抽出してもよい。または、温度が閾値以上となる面積が一定値以上である場合に、当該領域を変化領域として抽出してもよい。または、周囲の平均的な温度より一定値以上高い領域を変化領域として抽出してもよい。このように、変化領域は、なんらかの現象により過去の状態から変化が生じた領域、または周囲との間で差が生じている領域である。なお、変化領域の算出方法は、これらの例に限らず、一般的に用いられるどのような方法を用いてもよい。
また、解析部17は、解析として、浸水発生後の浸水領域を抽出する処理を行ってもよい。さらに、解析部17は、浸水領域の面積を計測する処理であってもよい。浸水領域の面積を計測することにより、災害の被害の程度の把握に役立てることができる。また、同様に、解析部17は、変化領域の面積を計測してもよい。
データ処理装置1が行う解析の内容は、これに限定されず、例えば、災害につながると予想される異常が発生している領域を抽出する処理、作物の生育状況の把握、交通渋滞の状況の把握、商業施設の駐車場における車両の台数の把握等であってもよい。例えば、解析部17は、複数の時点のセンサ情報を用いて、作物の生育状況の変化、交通渋滞の状況の変化等を解析してもよい。
災害につながると予想される異常が発生している領域を抽出する処理は、上述した変化領域の抽出と同様に、例えば、基準となる過去のセンサ情報と、新たに取得されたセンサ情報との差分が閾値以上となる領域を異常が発生している領域として抽出する処理である。作物の生育状況を把握するための処理は、例えば、可視光の複数の波長で撮像されたセンサ情報を用いて、色を求めることにより作物の生育を判断する処理である。交通渋滞の状況を把握するための処理、商業施設の駐車場における車両の台数を把握するための処理は、例えば、撮像された画像を画像処理することによって車両を抽出し、車両の数を計数する処理である。なお、解析の具体的処理内容は上述した例に限定されず、どのような処理方法が用いられてもよい。以下では、一例として、解析の内容が、災害発生の前後で変化した変化領域を抽出する処理である場合を主に説明する。
なお、データ処理装置1が、解析として災害の発生または災害につながる異常の発生を監視する処理を行う場合には、重点的に警戒すべき地域、例えば線状降水帯の発生しやすい地域等については、解析の対象地域として、常時、最新、センサ情報を取得して解析するようにしてもよい。また、データ処理装置1は、災害発生後に、災害の発生した地域を対象地域として、センサ情報を取得して解析するようにしてもよい。また、特定の自治体向けの防災システムなどに適用する場合には、当該自治体に対応する地域を対象地域として常時、最新、センサ情報を取得して解析するようにしてもよい。
表示処理部18は、処理情報記憶部13に格納されたセンサごとの、位置合わせ画像変換後のセンサ画像データを重畳表示する。また、表示処理部18は、処理情報記憶部13に格納されたセンサごとの、位置合わせ画像変換後のセンサ画像データに、さらに、解析部17による解析結果を強調表示して重畳してもよい。このように、表示処理部18は、位置合わせ画像変換後のセンサ画像データを重畳することにより、視認性を改善することができる。例えば、SARにより取得された画像データは標高が表現されているものの地表面、建造物等の色がわからない。表示処理部18は、これらを重畳して表示することで視認性を改善することができる。また、表示処理部18は、解析結果を強調表示することにより、視認性を改善することができる。
情報出力部31は、処理情報記憶部13に格納された情報を読み出して外部のシステム等へ出力する。例えば、情報出力部31は、位置合わせ画像変換後のセンサ画像データ、解析結果等を、外部のシステムへ出力する。これにより、外部のシステムがこれらを表示したり、処理したりすることができる。調整部32は、運用者等からの入力に基づいて、または他の装置から受信したデータに基づいて、データ処理装置1における補正処理、位置合わせ処理等の処理に用いるパラメータ等を調整する。例えば、データ処理装置1は、各センサの補正を行うための情報を観測情報として取得するが、より高精度な補正のために、補正において用いるパラメータを変更することが望ましい場合もある。このようなときには、運用者等がデータ処理装置1へ入力することにより、または他の装置からデータを送信することにより、変更内容をデータ処理装置1へ指示する。調整部32は、運用者等からの入力に基づいて、または他の装置から受信したデータに基づいて、補正において用いるパラメータを変更する。また、位置合わせ処理では、後述するように、評価項目、重み、評価式等が定められるがこれらを変更することが望ましい場合もある。調整部32は、補正において用いるパラメータと同様に、運用者等からの入力に基づいて、または他の装置から受信したデータに基づいて、評価項目、重み、評価式等を変更する。また、運用者等が、位置合わせ処理の結果、解析結果等を確認した後で、これらの結果に応じてパラメータの調整を要すると判断した場合に、上記のように変更内容をデータ処理装置1へ指示し、調整部32がこれに基づいて調整を行ってもよい。また、調整部32は、模擬特徴要素を生成する際のパラメータを調整してもよい。
次に、データ処理装置1のハードウェア構成について説明する。データ処理装置1は、コンピュータシステムにより実現される。図2は、本実施の形態のデータ処理装置1を実現するコンピュータシステムの構成例を示す図である。図2に示すように、このコンピュータシステムは、制御部101と入力部102と記憶部103と表示部104と通信部105と出力部106とを備え、これらはシステムバス107を介して接続されている。
図2において、制御部101は、例えば、CPU(Central Processing Unit)等である。制御部101は、本実施の形態のデータ処理方法が記述されたデータ処理プログラムを実行する。入力部102は、たとえばキーボード、マウス等で構成され、コンピュータシステムのユーザが、各種情報の入力を行うために使用する。記憶部103は、RAM(Random Access Memory),ROM(Read Only Memory)等の各種メモリおよびハードディスク等のストレージデバイスを含み、上記制御部101が実行すべきプログラム、処理の過程で得られた必要なデータ等を記憶する。また、記憶部103は、プログラムの一時的な記憶領域としても使用される。表示部104は、LCD(Liquid Crystal Display:液晶表示パネル)等で構成され、コンピュータシステムのユーザに対して各種画面を表示する。通信部105は、通信処理を実施する通信回路等である。通信部105は、複数の通信方式にそれぞれ対応する複数の通信回路で構成されていてもよい。出力部106は、プリンタ、外部記憶装置等の外部の装置へデータを出力する出力インタフェイスである。なお、図2は、一例であり、コンピュータシステムの構成は図2の例に限定されない。
ここで、本実施の形態のデータ処理装置1の処理が記述されたデータ処理プログラムが実行可能な状態になるまでのコンピュータシステムの動作例について説明する。上述した構成をとるコンピュータシステムには、たとえば、図示しないCD(Compact Disc)-ROMドライブまたはDVD(Digital Versatile Disc)-ROMドライブにセットされたCD-ROMまたはDVD-ROMから、データ処理プログラムが記憶部103にインストールされる。そして、データ処理プログラムの実行時に、記憶部103から読み出されたデータ処理プログラムが記憶部103の主記憶装置となる領域に格納される。この状態で、制御部101は、記憶部103に格納された第1プログラムに従って、本実施の形態のデータ処理装置1としての処理を実行する。
なお、上記の説明においては、CD-ROMまたはDVD-ROMを記録媒体として、データ処理装置1における処理を記述したプログラムを提供しているが、これに限らず、コンピュータシステムの構成、提供するプログラムの容量等に応じて、たとえば、通信部105を経由してインターネット等の伝送媒体により提供されたプログラムを用いることとしてもよい。
図1に示したセンサ情報取得部11および地図情報取得部12は、図2に示した制御部101および通信部105により実現される。図1に示した特徴要素抽出部14、第1処理部15-1~第n処理部15-n、対応付け部16および解析部17は、図2に示した制御部101により実現される。図1に示した処理情報記憶部13は、図2に示した記憶部103の一部である。図1に示した表示処理部18は、図2に示した制御部101および表示部104により実現される。図1に示した情報出力部31は、図2に示した通信部101または出力部106により実現される。図1に示した調整部32は、図2に示した入力部102および制御部101により実現される。
次に、本実施の形態の動作の詳細について説明する。図3は、本実施の形態のデータ処理装置1における全体処理の流れの一例を示す図である。図3に示すように、まず、地図情報取得部12による地図情報の取得(ステップS11)と、センサ情報取得部11による各センサに対応するセンサ情報の取得(ステップS21,S31,S41,S51)が行われる。これらの情報は、上述したように、処理情報記憶部13に格納される。図3では、センサの数であるnが4である例を示している。図3に示した例では、4つのセンサは、SAR、可視センサ、赤外センサおよびLIDARである。SAR、可視センサおよび赤外センサは、人工衛星に搭載され、LIDARは車両に搭載される。以下、SARに対応するセンサ情報をSARデータとも呼び、可視センサに対応するセンサ情報を可視センサデータとも呼び、赤外センサに対応するセンサ情報を赤外センサデータとも呼び、LIDARに対応するセンサ情報をLIDARデータとも呼ぶ。
以下では、データ処理装置1が対応する複数のセンサの一例として、これらの4つのセンサを例に挙げて説明するが、センサの数、センサの種類およびセンサの搭載場所はこれらに限定されない。また、データ処理装置1が対応する複数のセンサには、搭載位置または観測方向の異なる、同一の種類の2つ以上のセンサが含まれていてもよい。ここでは、第1処理部15-1がSARに対応する処理を行い、第2処理部15-2が可視センサに対応する処理を行い、第3処理部15-3が赤外センサに対応する処理を行い、第4処理部15-4がLIDARに対応する処理を行うとする。
第1処理部15-1~第4処理部15-4の補正部21は、処理情報記憶部13に記憶されているセンサ情報に基づいて、センサ固有の校正、補正などを実施してセンサ画像データを生成し、オルソ補正が必要なセンサに対応する場合にはセンサ画像データにオルソ補正を行う(ステップS22,S32,S42,S52)。以下、SARに対応するセンサ画像データをSAR画像データとも呼び、可視センサに対応するセンサ画像データを可視画像データとも呼び、赤外センサに対応するセンサ画像データを赤外画像データとも呼び、LIDARに対応するセンサ画像データを3次元点群データとも呼ぶ。
センサ情報には、被観測位置を算出するための観測情報が含まれる。観測情報は、例えば、センサの位置、向き、画角範囲などの情報を含む。例えば、センサが人工衛星に搭載される場合には、観測情報は、人工衛星の軌道情報、人工衛星の姿勢情報、オフナディア角などの情報を含む。図4は、本実施の形態のセンサ情報の構成例を示す図である。図4に示した例では、センサ情報は、撮像日時と、観測情報と、センサ観測データを含む。センサによって取得されたデータまたは当該データが処理されることにより得られたデータである。撮像日時は、センサによる観測日時である。観測情報は、撮像位置情報および撮像角度情報を含む。撮像位置情報はセンサの位置を示す情報であり、撮像角度情報は、センサの視野方向、すなわちセンサの向きを示す情報である。撮像位置情報は、センサが人工衛星、航空機、ドローン、車両等の移動体に搭載されたセンサである場合には、搭載されたこれら移動体の位置を示す情報である。撮像角度情報は、センサが移動体に搭載されたセンサには、移動体の姿勢に関する情報と、移動体を基準としたセンサの視野方向とが含まれていてもよい。
図示は省略するが、センサ情報には、上述した観測情報以外の、センサ固有の校正、補正に必要な他の情報も含まれていてもよい。または、これらの他の情報はセンサ情報とは別に提供され、データ処理装置1がセンサ情報とは別に取得しておいてもよい。また、センサが移動体に搭載される場合、観測情報に、移動体の位置情報の精度、移動体の姿勢情報の精度、センサの視野方向の精度を示す情報等が含まれていてもよい。センサ情報の内容は、センサの種類、搭載場所によって異なり、図4に示した例に限定されない。第1処理部15-1~第4処理部15-4は、観測情報、および必要な場合には上記の他の情報に基づいて、センサ固有の校正、補正などを実施してセンサ画像データを生成することができる。
なお、図3では、LIDARに関しては、センサ情報すなわちLIDARデータから3次元点群データを生成する処理が記載されているが、補正等が必要な場合には、3次元点群データを生成する際に補正も行われる。
SAR画像データでは色はついておらず、分解能は可視センサに比べると低いが雲があっても地表面を観測することができ夜間観測することができる。また、SARのセンサ情報を用いてインタフェロメトリ処理を行うことにより、標高を算出することも可能である。また、3次元点群データから生成された画像は、観測範囲すなわち撮像範囲は限られているものの精密な画像を取得することができる。また、3次元点群データからは、標高についても高精度に求めることができる。また、赤外画像データは夜間でも取得できる。また、赤外画像データからは地表面の温度を得ることができる。
このように、センサの種類によってそれぞれ特性が異なっている。したがって、複数のセンサのセンサ情報を用いると、相補的な結果が得られると期待される。例えば、上述したように、各センサによって得られる画像の特性が異なるので、これらを重ねあわせて表示することで、地表面の状態をより把握しやすくなる。しかし、各センサは、観測方法、搭載場所等が異なっているので、センサ固有の補正を行っただけでは、重ねあわせた際に位置ずれが生じる可能性がある。また、例えば、車両に搭載されたLIDARは、観測の精度は高いものの観測する範囲が限られる。このため、LIDARの観測データを用いて、LIDARより観測範囲の広いSARの観測データを補正すれば、広い範囲にわたって高精度な標高等を求めることができる。しかし、LIDARの観測データを用いて、LIDARより観測範囲の広いSARの観測データを補正する際に、これらのデータ間の位置合わせの精度が低いと、高精度な標高等を求めることができない。以上のことから、複数のセンサのセンサ画像データを高精度に位置合わせすることが望まれる。
そこで、本実施の形態では、基準とする地上の対象物である基準対象物を選択し、選択した基準対象物に対応する領域を特徴要素として、地図情報およびそれぞれのセンサ画像データから抽出する。そして、地図情報およびそれぞれのセンサ画像データから抽出された特徴要素が同一の位置に対応しているとみなして、センサ間の位置合わせを実施する。このとき、一般には、地図情報の位置の精度は高いため、地図情報を基準として位置合わせを実施することにより、高い精度の位置合わせを行うことが可能である。一方、地図情報は、地図情報の作成時には精度が高いものの、時間の経過とともに、建物の建設、災害の発生、自然変化等により実際とは異なる可能性が高くなる。これに対して、センサは実際に近い状態を観測することができる。したがって、条件によっては地図情報よりセンサにより取得されたデータの方が、精度が高いことも考えられる。このため、本実施の形態では、地図情報と各センサに対応するセンサ情報とのなかから、精度が高いと期待されるものを選択して、当該センサ情報の座標系を基準座標系とすることにより、より高精度な位置合わせを実現する。以下に述べるように、図3に示したステップS12,S23~S25,S33~S35,S43~S45,S53~S55の処理を実施する。
図3の説明に戻る。特徴要素抽出部14は、処理情報記憶部13に記憶されている地図情報に基づいて、模擬特徴要素を生成する(ステップS12)。具体的には、特徴要素抽出部14は、上述したように、地図情報から特徴要素を抽出し、特徴要素に基づいてセンサごとの模擬特徴要素を生成する。特徴要素抽出部14は、生成した模擬特徴要素を当該模擬特徴要素に対応する第1処理部15-1~第4処理部15-4に出力する。また、特徴要素の位置を示す情報を、対応付け部16へ出力する。
第1処理部15-1~第4処理部15-4の特徴要素抽出部22は、特徴要素抽出部14から受け取った模擬特徴要素を用いて、センサ画像データから特徴要素を抽出する(ステップS23,S33,S43,S53)。具体的には、第1処理部15-1~第4処理部15-4のそれぞれの特徴要素抽出部22は、特徴要素抽出部14から受け取った模擬特徴要素を用いて、センサ画像データから、模擬特徴要素により示される形状と最も一致する領域を特徴要素として抽出する。また、第1処理部15-1~第4処理部15-4のそれぞれの特徴要素抽出部22は、抽出した特徴要素と模擬特徴要素との類似度を算出し、抽出された特徴要素の位置を示す情報を、類似度とともに、対応付け部16へ出力する。なお、特徴要素抽出部14により抽出された特徴要素の位置を示す情報と、第1処理部15-1~第4処理部15-4のそれぞれの特徴要素抽出部22により抽出された特徴要素の位置を示す情報とは、同じ定義の座標値で示されているとする。これらが同じ定義の座標値で示されていないときには、第1処理部15-1~第4処理部15-4のそれぞれの特徴要素抽出部22が、例えば、地図情報における座標値と同じ定義の座標値となるように座標変換を行う。なお、ここでいう座標値の定義とは、日本測地系における緯度経度および標高、または世界測地系における緯度経度および標高、国際地球基準座標系における3次元直交座標といった定義である。
対応付け部16は、特徴要素の対応付けを行う(ステップS61)。詳細には、対応付け部16は、第1処理部15-1~第4処理部15-4のそれぞれから受け取った類似度と、処理情報記憶部13に記憶されている特性情報とに基づいて、複数のセンサにそれぞれ対応する複数のセンサ情報の位置合わせにおける基準座標系を決定する。基準座標系は、地図情報および各センサ画像データのなかで最も精度が良いと推定される情報に対応する座標系であり、ステップS61の処理で決定される。そして、対応付け部16は、特徴要素抽出部14によって生成された各センサの模擬特徴要素と、第1処理部15-1~第4処理部15-4のそれぞれから出力される特徴要素とに基づいて、各センサに対応する座標変換情報を生成する。対応付け部16は、各センサに対応する座標変換情報を対応する第1処理部15-1~第4処理部15-4へそれぞれ出力する。対応付け部16の動作の詳細については後述する。
第1処理部15-1~第4処理部15-4のそれぞれの位置合わせ部23は、対応付け部16から受け取った座標変換情報に基づいて、センサ画像データにおける特徴要素の位置を示す座標値を基準座標系における座標値に変換するための局所変換パラメータを生成する(ステップS24,S34,S44,S54)。第1処理部15-1~第4処理部15-4のそれぞれの位置合わせ部23は、さらに、局所変換パラメータを用いてセンサ画像の位置を基準座標系における座標値に変換する処理、すなわち位置合わせ画像変換を実施する(ステップS25,S35,S45,S55)。局所変換パラメータは、特徴要素に関して局所的に位置合わせを行って得られる変換パラメータであるため、局所変換パラメータを用いて特徴要素だけを基準座標系に変換する場合には、高精度に位置合わせができる。一方、センサ画像データのうち特徴要素以外の部分については、当該局所変換パラメータを用いて座標変換を行うことにより、高精度に位置合わせができるとは限らない。特に、人工衛星に搭載されたセンサの場合、観測範囲が広いため、1つの画像内の位置によって適切な変換パラメータが異なる可能性がある。このため、データ処理装置1は、1つの画像内で複数の特徴要素を用いて、複数の局所変換パラメータを求め、特徴要素間の画像データに関しては局所変換パラメータを補間して用いる等の方法により座標変換を行ってもよい。1つの画像内で変換パラメータが変化しないと想定される場合には、局所変換パラメータを用いてセンサ画像データの座標変換を行ってもよい。
第1処理部15-1~第4処理部15-4のそれぞれの位置合わせ部23は、位置合わせ画像変換後、それぞれ対応するデータを保存する(ステップS26,S36,S46,S56)。詳細には、第1処理部15-1~第4処理部15-4は、位置合わせ画像変換後のセンサ画像データを、地図整合情報として処理情報記憶部13へ保存する。
表示処理部18は、処理情報記憶部13に格納されたセンサごとの、位置合わせ画像変換後のセンサ画像データを用いて視認性改善処理を実施する(ステップS62)。視認性改善処理は、例えば複数のセンサにそれぞれ対応する複数のセンサ画像データを重畳して表示するための表示データを生成する処理、処理情報記憶部13に記憶されている解析結果を、複数のセンサ画像データのうちの少なくとも1つに、強調して重畳する表示データを生成する処理である。表示処理部18は、視認性改善処理により生成された表示データを表示することにより重畳表示を実施する(ステップS64)。ここで、重畳表示は、上述したように、例えば、複数のセンサ画像データの重畳表示、解析結果と複数のセンサ画像データのうちの少なくとも1つとの重畳表示を示す。なお、ここでは、重畳表示を行う例を説明したが、表示処理部18は、解析結果だけを表示するようにしてもよい。
解析部17は、災害検知処理を実施する(ステップS63)。災害検知処理は、例えば、上述した変化領域を抽出する処理である。ここでは、解析部17が行う解析として災害検知処理を例に挙げたが、上述したように、解析部17が行う解析は、災害検知処理に限定されない。解析部17は、解析結果を処理情報記憶部13に記憶する。
なお、図1に示した例では、特徴要素抽出部14と第1処理部15-1~第n処理部15-nの特徴要素抽出部22とが個別に設けられているが、これら全体を1つの特徴要素抽出部と考えることができる。すなわち、特徴要素抽出部14と第1処理部15-1~第n処理部15-nの特徴要素抽出部22とは、対象地域の地図を含むデータである地図情報と、複数の観測データとのなかから、対象地域内の基準対象物に対応する部分である特徴要素を抽出する特徴要素抽出部を構成する。複数の観測データは、複数のセンサによって対象地域がそれぞれ観測されることによって得られる。また、上述した例では、模擬特徴要素を用いて各センサに対応する特徴要素を抽出したが、地図情報および各センサ情報から共通の基準対象物に対応する特徴要素を抽出する方法は、どのような方法を用いてもよく上述した例に限定されない。
また、第1処理部15-1~第n処理部15-nの位置合わせ部23を、全体として1つの位置合わせ部と考えることができる。すなわち、第1処理部15-1~第n処理部15-nの位置合わせ部23は、複数の観測データのそれぞれについて、観測データに対応する特徴要素の位置を、基準データにおける特徴要素の位置と一致させるように、当該観測データの位置合わせを行う位置合わせ部を構成する。
次に、本実施の形態の対応付け部16における特徴要素の対応付け処理、すなわち上述したステップS61の処理の詳細について説明する。図5は、本実施の形態の特徴要素の対応付け処理手順の一例を示すフローチャートである。図5に示すように、対応付け部16は、センサを識別するための番号を示す変数iを1に設定する(ステップS71)。ここでは、赤外センサ、可視センサ、SARおよびLIDARを、それぞれ1番目、2番目、3番目および4番目のセンサとする。
対応付け部16は、i番目のセンサの評価項目ごとの評価値を取得する(ステップS72)。上述した通り、センサの種類、センサの搭載場所等によってセンサの特性が異なる。また、センサ画像データの校正、補正レベルによってもセンサ画像データの精度は異なる。そこで、本実施の形態では、センサ画像データの精度の高さを示す評価値を評価項目ごとに求める。
評価項目としては、以下が挙げられる。
(1)類似度:各センサ画像データから抽出された特徴要素と模擬特徴要素との類似度
(2)測定精度:各センサの観測における測定精度
(3)位置精度:各センサの位置を示す情報の精度
(4)指向精度:各センサの向きを示す情報の精度
(5)搭載場所:地上に固定、人工衛星に搭載、車両に搭載といった各センサの搭載場所
(6)補正、校正レベル:高精度な地上の基準物、例えばGCP、高精度な計測機器で測量された自然造形物等を用いて、高精度に補正されたものであるか等
(7)撮像時間帯等のその他の条件:夜間に観測可能なセンサであるか、雲があっても観測可能なセンサであるか等
上記の評価項目のうち、(2)~(5)および(7)は、基本的には観測ごとに変わるものではなく、センサの仕様と搭載場所等により決まる。したがって、これらについては、センサごとにあらかじめ評価値を定めて特性情報として処理情報記憶部13に格納しておく。一般に、高度によって撮像範囲と解像度はトレードオフの関係になる。一般に、センサの仕様が同程度である場合、搭載される移動体の高度が高いと、広範囲で低解像度のデータが得られ、高度が低いと、狭範囲で高解像度のデータが得られる。高度約3~4.5kmの航空機に搭載されたセンサで撮像した場合、例えば10km×10km程度が撮像範囲となり、高度700kmの人工衛星に搭載されるセンサで観測した場合、例えば程度70km×35kmが観測範囲となる。
ただし、センサによっては、(2)~(4)が変化する可能性があるので、(2)~(4)が変化する可能性がある場合には、センサ情報にこれらを示す情報が含まれていてもよいしセンサ情報とは別にこれらの情報をデータ処理装置1が取得してもよい。
図6は、本実施の形態の特性情報の一例を示す図である。図6に示した例では、特性情報は、上述した(2)測定精度、(3)位置精度、(4)指向精度、(5)搭載場所および(7)撮像時間帯等のその他の条件(図6では「その他」と記載)、を含む。また、図6に示すように、特性情報は、地図情報に関する情報も含む。これは、本実施の形態では、地図情報と各センサ情報の精度を比較するために、地図情報についても評価値が算出されるためである。図6に示すように、地図情報および各センサのそれぞれについて、評価項目ごとに評価値が予め定められる。これらの情報は、適宜更新される。例えば、(2)~(4)はセンサの運用開始後に変更されたり、または運用モードによって異なったりする場合もあるため、変更された場合には、処理対象のセンサ情報の観測日時に対応する値に応じて評価値が設定される。また、上述したように、これらの情報がセンサ情報に含まれていてもよく、これらの情報がセンサ情報に含まれている場合には、対応付け部16は、センサ情報に含まれている情報に基づいてこれらの評価項目の評価値を決定する。
(6)補正、校正レベルについては、センサにより観測データが取得された後の処理に依存する。(6)補正、校正レベルには、高さのあるものの補正レベルが含まれていてもよい。例えば、高さのあるものを観測したSARの観測データは、レイオーバ、レーダシャドウなどの歪を含む。したがって、これらの歪の補正がされているか否かにより観測データの信頼度が異なる。また、SAR以外のセンサの観測データについても、高さのあるものをオルソ補正しても、オルソ補正で用いられる測定値の測定精度によっては、例えば、高さのある壁面が傾いたデータになることがある。このような、高さのあるものの補正に関する補正精度に応じたレベルはデータの信頼度に影響する。データ処理装置1が、補正、校正が行われた後のセンサ情報を取得する場合には、当該センサ情報の提供時に補正、校正レベルに関する情報も提供されるので、この情報に基づいて、対応付け部16が評価値を決定する。補正、校正をデータ処理装置1が行う場合には、データ処理装置1の各第1処理部15-1~第n処理部15-nにおいて行われた補正、校正のレベルを各第1処理部15-1~第n処理部15-nが対応付け部16へ通知し、対応付け部16が、通知された情報に基づいて評価値を決定する。なお、第1処理部15-1~第n処理部15-nが行う補正、校正レベルが予め定められている場合には、(6)補正、校正レベルの評価値についても、特性情報に含めておいてもよい。取得するセンサ情報の補正、校正レベルが予め定められている場合にも、同様に、(6)補正、校正レベルの評価値を、特性情報に含めておいてもよい。
また、(1)類似度については、対応付け部16は、各第1処理部15-1~第n処理部15-nから受け取った類似度に基づいて評価値を決定する。なお、以下では、精度が高いほど評価値が大きくなるように評価値が設定される例を説明するが、精度が高いほど評価値が小さくなるように評価値が設定されてもよい。後者の場合、後述する総合評価値に基づく基準座標系の選択では、総合評価値が低いものが優先して選択される。
次に、評価値の設定例について説明する。(1)類似度については、類似度が高いほど評価値が大きくなるように評価値が設定される。(2)測定精度、(3)位置精度、および(4)指向精度については、精度が高いほど評価値が大きくなるように評価値が設定される。(5)搭載場所については、安定した場所に搭載されているセンサほど評価値が大きくなるように評価値が設定される。例えば、地上に固定されているセンサの評価値が最も大きくなるように評価値が設定され、以下、車両に搭載されているセンサ、航空機または人工衛星に搭載されているセンサ、ドローンに搭載されているセンサの順に評価値が大きくなるように評価値が設定される。
(6)補正、校正レベルについては、高精度な補正が行われているほど評価値が大きくなるように評価値が設定されている。(7)撮像時間帯等のその他の条件については、夜間に観測ができない可視センサ等である場合、撮像日時が夜間である場合には、後述する総合評価値を0とする。なお、夜間であるかどうかについては、データ処理装置1が日の出および日の入り時刻を取得して、対応付け部16が撮像日時と取得したこれらの時刻とに応じて判定してもよいし、季節ごとに、日の出および日の入り時刻をあらかじめ定めておいてもよい。また、雲があると地上を観測できない可視センサ、赤外センサ等である場合、別途取得した気象情報等に基づいて対象地域において雲が多いと判断される場合に、評価値を低下させるという条件を定めておく。対応付け部16は、評価値を低下させる場合、後述する総合評価値から一定値を減算してもよいし、0以上かつ1未満の一定値を総合評価値に乗算してもよい。
図5の説明に戻る。対応付け部16は、i番目のセンサの総合評価値を算出する(ステップS73)。詳細には、対応付け部16は、ステップS72で取得した、i番目のセンサに関する評価項目ごとの評価値に基づいて総合評価値を算出する。対応付け部16は、例えば、各評価項目の評価値の総和を総合評価値としてもよいし、各評価項目を重みづけ加算したものを総合評価値としてもよい。なお、重みづけ加算で用いる重みは負の値を含んでいてもよい。
対応付け部16は、i=nであるか否かを判断する(ステップS74)。i=nである場合(ステップS74 Yes)、対応付け部16は、地図情報の総合評価値を算出する(ステップS75)。対応付け部16は、詳細には、例えば、特性情報に基づいて総合評価値を算出する。
図6に示したように、地図情報に関しても、特性情報として、地図情報の精度に応じて、各評価項目の評価値を設定しておく。地図情報の(2)測定精度の評価値については、地図情報の精度を用いて評価値を定めればよい。地図情報の、(3)位置精度、(4)指向精度および(5)搭載場所については、センサのように、位置および指向方向を考慮する必要がないため、一般にはセンサの評価値より大きな評価値を設定しておく。地図情報の(6)補正、校正レベルについても、地図の種類により予め定められており、一般にはセンサ情報より精度が高いため、センサの評価値より大きな評価値を設定しておく。地図情報の(1)類似度については、例えば、各センサの類似度の平均値を用いるようにしてもよいし、各センサの類似度のうち最も高い類似度と同じ評価値を用いるようにしてもよいし、あらかじめ評価値を定めておいてもよい。
地図情報は、作成されてから一定の時間が経過していると、災害、工事、その他によって、実際の状態と異なる可能性が高くなる。このため、地図情報の(7)撮像時間帯等のその他の条件については、作成されてから撮像時間までの経過時間が長いほど総合評価値が低くなるように設定しておく。例えば、対応付け部16は、上述した経過時間を一定値で割った値を総合評価値に乗算するようにしてもよいし、経過時間に応じて段階的に定めた係数を総合評価値に乗算するようにしてもよい。また、大規模災害が発生した後、大規模工事が開始された後等には、地図情報が実際と異なっている可能性が高くなるので、対応する地域の地図情報の総合評価値を、下げるように変更してもよい。各評価値の変更は、運用者による入力により行われてもよいし、通信回線を介して外部の装置から行われてもよい。
例えば、地域ごとに異なる種類の地図情報が用いられる場合等には、対象地域に応じて用いる地図情報が選択される。この場合、地図情報の種類によって、精度が異なる場合には、地図情報の種類に応じて、評価項目ごとの評価値を定めておく。
通常、ほとんどの特徴要素は、地図情報を基準情報として用いて位置合わせを行うことになるが、災害による変位、工事による変位等があるエリアの位置合わせが、これらの変位の生じる前の地図情報を基準に行われると変位を無くすような画像変換が行われる可能性がある。このため、災害による変位、工事による変位を無くすような画像変換が行われることがないよう評価項目、重み、評価式は設定される。災害による変位、工事による変位等があるエリアの位置合わせが、例えば、災害による変位、工事による変位が発生して以降に、撮像されたセンサの中で、信頼度が最も高いセンサ画像データを基準に各センサ画像データの位置合わせが行われるように、評価項目、重み、評価式が設定される。この際、地図情報すなわち3次元地図データについては、信頼度が最も高いセンサ画像データを基準とした位置合わせを行ってもよいし行わなくてもよい。地図情報も、信頼度が最も高いセンサデータを基準に位置合わせを行う場合、データ処理装置1は、特徴要素に紐づけされた、建造物、線路、河川などの地図要素名称情報との対応をはかることができる。これにより、データ処理装置1は、災害、工事等による変位が発生した地図要素がどのようなものであるかの判断を行うことができ、解析に活用することができる。
図5の説明に戻り、ステップS75の後、対応付け部16は、地図情報およびセンサ情報のうち最も総合評価値の大きいものの座標系を基準座標系として選択し、基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力し(ステップS76)、特徴要素対応付け処理を終了する。ステップS74でNoの場合には、対応付け部16は、iに1を加算し(ステップS77)、ステップS72からの処理を繰り返す。
ステップS76では、例えば、地図情報の座標系が基準座標系として選択された場合、地図座標から抽出された特徴要素の位置を示す座標値が基準座標系における特徴要素の座標値となる。また、対応付け部16は、第1処理部15-1~第n処理部15-nからそれぞれ取得した各センサの座標系における特徴要素の座標値を、第1処理部15-1~第n処理部15-nのそれぞれに出力する。一方、例えば、上述したように、センサが4つであり、基準座標系として4番目のセンサであるLIDARの3次元点群データの座標系が選択されたとする。この場合、対応付け部16は、対応する第4処理部15-4から取得した3次元点群データから抽出された特徴要素の座標値を、基準座標系における特徴要素の座標値として、第1処理部15-1~第4処理部15-4へ出力する。そして、対応付け部16は、第1処理部15-1~第4処理部15-4からそれぞれ取得した各センサの座標系における特徴要素の座標値を、第1処理部15-1~第4処理部15-4のそれぞれに出力する。
センサ情報が人工衛星、ドローン等により搭載されたセンサだけのものでありかつ地図情報が新しいものである場合には、総合評価値は、一般には、地図情報が最も大きくなる。一方で、センサ情報に、車両に搭載されたLIDAR等の高精度に観測ができるセンサのセンサ情報が含まれる場合、地図情報が古いまたは地図情報の作成後に大規模災害等が発生した場合には、地図情報の総合評価より総合評価値の大きなセンサ情報が存在する可能性もある。本実施の形態では、地図情報および各センサに対応する各センサ情報の総合評価値が最も大きいものを基準とすることで、すなわち総合評価値が最も大きいものの座標系を基準座標系とする。そして、第1処理部15-1~第n処理部15-nは、上述したように、基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを用いて、局所変換パラメータを算出する。そして、第1処理部15-1~第n処理部15-nは、局所変換パラメータを用いてセンサ画像データを基準座標系に合わせる変換を行う。これによって、複数のセンサに対応する複数のセンサ画像データの高精度な位置合わせを実現することができる。
また、表示処理部18は、対応付け部16により基準座標系として地図情報の座標系以外が選択された場合には、地図情報を表示する際に、基準座標系に合わせるように地図情報を変換して表示してもよい。
以上のように、本実施の形態の選択部である対応付け部16は、地図情報および複数の観測データのそれぞれについて、類似度を含む複数の評価項目ごとに精度の高さを含む評価値を算出し、評価項目ごとの評価値に基づいて総合評価値を算出する。そして、対応付け部16は、地図情報および複数の観測データのそれぞれの総合評価値に基づいて基準データを選択する。
なお、特徴要素に対応する基準対象物は、災害の発生前後等で変化していないと予想されるものが選択されることが望ましいが、基準対象物として選定した建物、あるいは道路、線路、河川などは、倒壊、崩落、浸水などによって形状が変異している可能性がある。この場合、センサ画像データから特徴要素を抽出することが困難であり、無理に対応付けても正しい位置合わせはできない。このため、例えば、対応付け部16は、信頼性が低い特徴要素に対応する類似度は評価項目から除外して評価値を算出する。特徴要素の信頼性が低いか否かの判断には、例えば模擬特徴要素との類似度を用いることができる。対応付け部16は、例えば、類似度が閾値未満の場合には当該特徴要素の信頼度が低いと判断する。または、対象地域に関して、災害発生前の平常時に求めた局所変換パラメータを保存しておき、特徴要素の信頼性が低い場合には、対応付け部16は対応付け処理を行わず、第1処理部15-1~第n処理部15-nへ平時の局所変換パラメータを用いるよう指示する。そして、第1処理部15-1~第n処理部15-nは、平時の局所変換パラメータを用いて位置合わせを行う。また、災害が発生していると思われる対象地域がセンサ情報の画像の境界を含む場合には、隣接する複数の画像をあわせた1つの画像である結合画像に対して位置合わせを実施する。
また、対象地域に関して、災害発生前の平常時に求めた局所変換パラメータを保存しておき、第1処理部15-1~第n処理部15-nの位置合わせ部23は、同一の特徴要素に関して、平時の局所変換パラメータと算出した局所変換パラメータとの差分が閾値以上である場合に、災害等により特徴要素が変化したと判断してもよい。局所変換パラメータは、変換行列の各要素すなわち複数の係数であるため、局所変換パラメータの差分は、例えば、これら複数の係数のそれぞれの差分の総和、それぞれの差分の加重平均等である。この場合、第1処理部15-1~第n処理部15-nの位置合わせ部23は、平時の局所変換パラメータを用いて位置合わせを行う。
次に、本実施の形態の位置合わせにより得られた結果を利用した表示処理部18における表示例を説明する。まず、本実施の形態の解析部17による解析結果を地図情報に重ね合わせた表示画面の例を説明する。図7は、本実施の形態の解析部17により抽出された変化領域を地図情報に重ね合わせた表示画面の一例を示す図である。図7に示した例では、解析部17は、解析として、災害前後に変化した変化領域を抽出する処理を行っている。図7では、地図情報を示す地図情報画像201に、位置合わせが行われた後のセンサ画像データを用いて抽出された変化領域を示す変化領域画像202が重畳表示されている。また、本実施の形態では、高精度に位置合わせが行われたセンサ画像データを用いて変化領域が算出されているため、地図情報と重畳した際の変化領域と地図情報との位置ずれを抑制することができる。これにより、センサ画像データの利用者が、変化領域の位置を誤って認識するのを抑制することができる。
図8は、本実施の形態の解析部17により算出された変位量を地図情報に重ね合わせた表示画面の一例を示す図である。図8に示した例では、図7に示した例と同様に解析部17は、解析として災害前後に変化した変化領域を抽出する処理を行っている。図8に示した例では、さらに解析部17は、各箇所の変位量についても算出している。図8では、地図情報を示す地図情報画像203に、位置合わせが行われた後のセンサ画像データを用いて抽出された変位量を示す第1領域画像204、第2領域画像205、第3領域画像206が重畳表示されている。図8に示した例では、ハッチングの密度によって変位量を示しており、変位量が最も多い領域を示す第3領域画像206がハッチングの密度が最も高い。第2領域画像205は、次に変位量が多い領域を示し、第1領域画像204は、次に変位量が多い領域を示す。図8に示した例では、ハッチングの密度が低くなる、すなわちハッチングが薄くなるにつれて変位量が少なくなる。なお、図8ではハッチングの密度で変位量が示されているが、これに限らず、色分け等により変位量が示されてもよい。なお、変位量は、等高線等により示されてもよい。
なお、表示処理部18は、地図情報に、変化領域、変位量等の情報を重畳して表示する際に、表示用に生成された固定の地図データの上に機械的にこれらの情報を重畳表示しても良いし、地図データとこれらの情報とを別レイヤで表示してもよい。また、データ処理装置1は、例えば災害による変位を反映した地図データを生成して、上記の固定の地図データに重畳表示しても良いし、これらを別レイヤで表示しても良い。重畳表示の方法は、これらに限定されず、災害の発生エリアなどをわかりやすく伝えるのに適した表示が行われればよい。
次に、センサ画像データと解析結果を重畳表示する例を示す。図9は、本実施の形態の解析部17により算出された浸水領域を可視センサ画像データに重ね合わせた表示画面の一例を示す図である。図9に示した例では、解析部17は、解析として浸水領域を抽出する処理を行っている。図9では、可視センサ画像データを示すセンサ画像207に、位置合わせが行われた後のセンサ画像データを用いて抽出された浸水領域を示す浸水領域画像208が重畳表示されている。
図示は省略するが、同様に、可視センサ画像データを示すセンサ画像に、位置合わせが行われた後のセンサ画像データを用いて抽出された変化領域を示す変化領域画像が重畳表示されてもよい。変化領域画像は、視認しやすい形状、視認しやすい色付け等が施された画像として生成される。これにより、変化領域の視認性を向上させることができる。
以上示した表示例に限らず、表示処理部18は、どのような組み合わせの重畳表示を行ってもよい。表示処理部18は、複数のセンサに対応する複数のセンサ画像データを重畳表示してもよいし、これらと地図情報とを重畳表示してもよい。また、センサ画像データおよび地図情報のうち少なくとも1つと解析結果とを重畳表示してもよく、重畳表示される解析結果は上記の例に限定されない。
なお、以上、データ処理装置1が、解析部17および表示処理部18を備える例を説明したが、データ処理装置1が解析部17および表示処理部18を備えず、解析部17および表示処理部18の処理を別の装置で実施することとしてもよい。この場合、データ処理装置1は、位置合わせ後のセンサ画像データである地図整合情報を、別の装置へ送信する。または、データ処理装置1が地図整合情報を記録媒体に記録し、記録媒体によって、地図整合情報が別の装置へ提供されてもよい。
以上のように、本実施の形態では、地図情報と複数のセンサとのうち精度が高いと想定されるものの座標系を基準座標系として選択し、基準座標系を用いて複数のセンサ画像データの位置合わせを行うようにした。このため、複数のセンサによって得られたデータに対応する観測位置の位置合わせを高精度に行うことができる。
実施の形態2.
図10は、本発明にかかる実施の形態2のデータ処理装置の構成例を示す図である。本実施の形態のデータ処理装置1aは、実施の形態1の対応付け部16のかわりに対応付け部16aを備え、処理情報記憶部13がさらに局所変換パラメータを記憶する以外は、実施の形態1のデータ処理装置1と同様である。実施の形態1と同様の機能を有する構成要素は、実施の形態1と同一の符号を付して実施の形態1と重複する説明を省略する。
同じセンサで同じ運用モード、同じ指向方向で観測した基準対象物に関しては、災害等が生じていなければ、ほぼ同一の局所変換パラメータが算出されるはずである。本実施の形態では、第1処理部15-1~第n処理部15-nのそれぞれの位置合わせ部23は、算出した局所変換パラメータを、センサ、運用モードおよび指向方向ごとに、処理情報記憶部13に格納しておく。そして、対応付け部16aは、同一条件で観測されたセンサ情報に基づいて算出された局所変換パラメータの差分に基づいて、特徴要素に対応する基準対象物に変位が生じたか否かを判断する。局所変換パラメータは、変換行列の各要素すなわち複数の係数であるため、局所変換パラメータの差分は、例えば、これら複数の係数のそれぞれの差分の総和、それぞれの差分の加重平均等である。
図11は、本実施の形態のデータ処理装置1aにおける全体処理の流れの一例を示す図である。ステップS11,S12,S21~S23,S31~S33,S41~S43,S51~S53は実施の形態1と同様である。
ステップS23,S33,S43,S55の後、対応付け部16aは、地図情報の座標系を基準座標系とし基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力する(ステップS61a)。すなわち、対応付け部16aは、地図情報を仮の基準データとして選択して、基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを第1処理部15-1~第4処理部15-4へ出力する。本実施の形態では、この仮の基準座標系を選択する処理と後述する局所変換パラメータの平時からの差分を用いた基準座標系の選択との両方が特徴要素対応付け処理(ステップS61a)である。
第1処理部15-1~第n処理部15-nのそれぞれの位置合わせ部23は、実施の形態1と同様に、それぞれ局所変換パラメータを算出し(ステップS24,S34,S44,S54)、算出した局所変換パラメータを対応付け部16aへ出力する。すなわち、位置合わせ部23は、観測データに対応する特徴要素の位置を、地図情報における特徴要素の位置と一致させる変換に用いられる局所変換パラメータを算出し、局所変換パラメータを対応付け部16aへ出力する。
対応付け部16aは、実施の形態1で述べた評価項目に加えて、さらに局所変換パラメータの平時からの差分を用いて、基準座標系を選択する(ステップS61a)。そして、算出された局所変換パラメータである第1の局所変換パラメータと記憶されている平時の局所変換パラメータである第2の局所変換パラメータとの差分を対応付け部16aへ出力する。
図12は、本実施の形態の対応付け部16aによる特徴要素対応付け処理の一例を示すフローチャートである。図12に示すように、本実施の形態の選択部である対応付け部16aは、地図情報の座標系を基準座標系とし基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力する(ステップS81)。これにより、上述したように、第1処理部15-1~第n処理部15-nのそれぞれから、第1処理部15-1~第n処理部15-nのそれぞれによって算出された局所変換パラメータを受け取る。
対応付け部16aは、i=1に設定し(ステップS82)、第i処理部から受け取った局所変換パラメータと平時の局所変換パラメータとの差分を算出する(ステップS83)。対応付け部16aは、i=nであるか否かを判断し(ステップS84)、i=nである場合(ステップS84 Yes)、差分指数が閾値以上であるか否かを判断する(ステップS86)。差分指数は、例えば、n個のセンサにそれぞれ対応するn個の差分の平均値、総和、重みづけ平均値、最大値等を用いることができる。i=nでない場合(ステップS84 No)、対応付け部16aは、iに1を加算し(ステップS85)、ステップS83からの処理を繰り返す。
差分指数が閾値未満の場合(ステップS86 No)、対応付け部16aは、算出された局所変換パラメータをそのまま使用するよう第1処理部15-1~第n処理部15-nへ指示し(ステップS87)、特徴要素対応付け処理を終了する。
差分指数が閾値以上の場合(ステップS86 Yes)、実施の形態1のステップS71,S72の処理が行われる。ステップS72の後、対応付け部16aは、総合評価値を算出する(ステップS88)。本実施の形態では、対応付け部16aは、実施の形態1で述べた評価項目ごとの評価値と局所変換パラメータの差分とに基づいて総合評価値を算出する。すなわち、本実施の形態では、局所変換パラメータの差分も評価項目の1つに含める。局所変換パラメータの差分は、ステップS83で算出された、第i処理部から受け取った局所変換パラメータと平時の局所変換パラメータとの差分である。局所変換パラメータの差分の評価値は、差分が大きいほど評価値が大きくなるように算出される。ステップS74,S77は実施の形態1と同様である。
ステップS74でYesの場合、対応付け部16aは、センサ情報のうち最も総合評価値の大きいものの座標系を基準座標系として選択し、基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力し(ステップS89)、特徴要素対応付け処理を終了する。局所変換パラメータが平時より大幅に変化している場合は、特徴要素に対応する基準対象物が災害により変位している可能性が高い。したがって、この変位を検出したセンサに対応するセンサ情報の方が地図情報より実際の状態を表していると推定できるため、変位を検出したセンサに対応するセンサ情報の座標系を基準座標系として用いる。なお、局所変換パラメータが平時より大幅に変化した要因が一時的なセンサの異常である可能性もある。したがって、別の情報からセンサの異常である可能性が高いと判断できる場合には、当該センサの局所変換パラメータの差分の評価値を負の値にするなどとしてもよい。例えば、センサが搭載される人工衛星等の姿勢の変動を示す情報がセンサ情報として得られる場合、変動が閾値以上の場合に局所変換パラメータの差分の評価値を負の値としてもよい。
また、ベースとなるレイヤの地図情報は固定であるため、地図レイヤと、センサ観測データのレイヤのずれによって、災害による変異を表現できる。また、データ処理装置1が、災害の発生した日時とおおよその場所を示す災害情報を取得し、災害情報に基づいて、当該災害情報で災害が発生したと想定される地域については、当該災害の発生する前の日時に作成された地図情報を基準情報として用いないようにしてもよい。この場合、当該災害の発生していない地域は地図情報を基準として用いてもよい。実施の形態1で説明したように大規模災害が起きたときに、当該対規模災害の前に作成された地図情報の評価値を下げることで対応してもよいが、上記のように基準情報として用いることができるか否かを明示的に定めてもよい。
一般的には、対象地域内の複数の特徴要素を用いて位置合わせが行われ、特徴要素以外の箇所は実施の形態1で述べたように補間処理等が行われる。例えば、複数の特徴要素のうち、1つの特徴要素は、災害等により地図情報とずれた位置となり、他の特徴要素は地図情報と位置があっているといったことも考えられる。このような場合には、災害発生後に観測されたSAR,可視センサ、赤外センサ、LIDARのセンサ情報がそろっていれば、これらのセンサのなかから信頼度の高いすなわち評価値の高いセンサ情報を基準情報として選択する。また、災害が発生していると思われる対象地域がセンサ情報の画像の境界を含む場合には、隣接する複数の画像をあわせた1つの画像である結合画像に対して位置合わせを実施する。
以上のように、対応付け部16aは、センサごとに、算出された局所変換パラメータを用いて位置合わせを実施し、算出された局所変換パラメータである第1の局所変換パラメータと記憶されている平時の局所変換パラメータである第2の局所変換パラメータとの差分を算出する。そして、対応付け部16aは、センサごとの差分に基づいて算出される差分指数が閾値以上である場合に、差分と類似度とを含む複数の評価項目ごとに精度の高さを含む評価値を算出し、評価項目ごとの評価値に基づいて総合評価値を算出する。さらに、対応付け部16aは、地図情報および複数の観測データのそれぞれの総合評価値に基づいて基準データを選択する。差分指数が閾値未満の場合、対応付け部16aは、基準データとして地図情報を選択する。
図11の説明に戻る。第1処理部15-1~第n処理部15-nのそれぞれの位置合わせ部23は、上述したステップS89で出力された情報を受け取った場合、受け取った情報に基づいて、再度、局所変換パラメータを算出する(ステップS24,S34,S44,S54)。そして、第1処理部15-1~第n処理部15-nのそれぞれの位置合わせ部23は、新たに算出した局所変換パラメータを用いて位置合わせ画像変換処理を実施する(ステップS25,S35,S45,S55)。また、第1処理部15-1~第n処理部15-nのそれぞれの位置合わせ部23は、ステップS87の指示を受け取った場合は、算出済みの局所変換パラメータを用いて位置合わせ画像変換処理を実施する(ステップS25,S35,S45,S55)。
すなわち、位置合わせ部23は、基準データとして地図情報が選択された場合、第1の局所変換パラメータを用いて位置合わせを実施する。また、位置合わせ部23は、基準データとして地図情報以外が選択された場合、観測データに対応する特徴要素の位置を、基準データにおける特徴要素の位置と一致させる変換に用いられる第3の局所変換パラメータを算出し、第3の局所変換パラメータを用いて位置合わせを実施する。
ステップS25,S35,S45,S55の処理は実施の形態1と同様である。受け取った情報に基づいて再度実施するステップS61aの後の処理は実施の形態1と同様である。ステップS26,S36,S46,S56,S62,S63,S64も実施の形態1と同様である。
以上のように、本実施の形態では、地図情報を基準に、局所変換パラメータを算出し、算出された局所変換パラメータと平時の局所変換パラメータとの差分に基づいて算出される差分指数が閾値以上である場合には、基準座標系を選択しなおすようにした。このため、特徴要素に対応する基準対象物に災害等により変位が生じていた場合にも、高精度にセンサ画像データの位置合わせを行うことができる。
実施の形態3.
図13は、本発明にかかる実施の形態3のデータ処理装置の構成例を示す図である。本実施の形態のデータ処理装置1bは、選択部19を備え、実施の形態1の特徴要素抽出部14および対応付け部16のかわりに特徴要素抽出部14aおよび対応付け部16bを備える以外は、実施の形態1のデータ処理装置1と同様である。実施の形態1と同様の機能を有する構成要素は、実施の形態1と同一の符号を付して実施の形態1と重複する説明を省略する。
実施の形態1では、地図情報から抽出された特徴要素に基づいて模擬特徴要素を生成したが、本実施の形態では、複数のセンサのうち最も精度がよいと想定されるセンサによって抽出された特徴要素に基づいて模擬特徴要素を生成する。そして、第1処理部15-1~第n処理部15-nのそれぞれの特徴要素抽出部22はこの模擬特徴要素に基づいて、特徴要素を抽出する。
一般に、車両に搭載されたセンサは、基準対象物を近くから観測できかつ姿勢も安定し位置の精度の高いことから、ドローン、人工衛星等に搭載されたセンサより、精度の高い観測データを取得することができる。このように精度が高いと想定されるセンサに対応するセンサ情報が存在する場合には、本実施の形態では、最も精度がよいと想定されるセンサによって抽出された特徴要素に基づいて模擬特徴要素を生成する。
最も精度がよいと想定されるセンサの一例は、車両に搭載され3次元点群データを取得するLIDARであるが、これに限定されない。以下では、図3に示した例と同様にセンサが、SAR、可視センサ、赤外センサ、LIDARの4つであるとし、最も精度がよいと想定されるセンサがLIDARである場合を例に挙げて説明する。
図14は、本実施の形態の模擬特徴要素生成処理の一例を示すフローチャートである。選択部19は、処理対象地域および時間帯に対応するLIDARのセンサ情報が有るか否かを判断する(ステップS91)。処理対象地域および時間帯に対応するLIDARのセンサ情報が有る場合(ステップS91 Yes)、選択部19は、LIDARに対応する座標系を基準座標系として選択する(ステップS92)。すなわち、選択部19は、複数のセンサのうち、予め定められた最も精度の高いセンサの観測データが存在する場合、当該観測データを基準データとして選択する。選択部19は、LIDARに対応する座標系を基準座標系とすることを特徴要素抽出部14aへ通知する。
特徴要素抽出部14aは、実施の形態1の特徴要素抽出部14と同様に、地図情報から特徴要素を抽出する。特徴要素抽出部14aは、地図情報から抽出された特徴要素に基づいて、LIDARに対応する模擬特徴要素を生成する(ステップS93)。特徴要素抽出部14aは、生成した模擬特徴要素を、LIDARに対応する第4処理部15-4に出力する。第4処理部15-4は、実施の形態1と同様に、模擬特徴要素を用いて、LIDARに対応する3次元点群データから特徴要素を抽出する(ステップS94)。第4処理部15-4は、抽出した特徴要素を特徴要素抽出部14aへ出力する。特徴要素抽出部14aは、第4処理部15-4により抽出された特徴要素に基づいて、各センサに対応する模擬特徴要素を生成し(ステップS95)、模擬特徴要素生成処理を終了する。
処理対象地域および時間帯に対応するLIDARのセンサ情報がない場合(ステップS91 No)、地図情報に対応する座標系を基準座標系として選択する(ステップS96)。特徴要素抽出部14aは、実施の形態1と同様に、地図情報から抽出された特徴要素に基づいて、各センサに対応する模擬特徴要素を生成し(ステップS97)、模擬特徴要素生成処理を終了する。模擬特徴要素生成処理後、特徴要素抽出部14aは、生成した模擬特徴要素を第1処理部15-1~第4処理部15-4へそれぞれ出力する。
図15は、本実施の形態のデータ処理装置1bにおける全体処理の流れの一例を示す図である。図15は、上述したステップS91で、処理対象地域および時間帯に対応するLIDARのセンサ情報が有ると判断された例を示している。ステップS11,S21~S22,S31~S32,S41~S42,S51~S52は実施の形態1と同様である。特徴要素抽出部14aは、地図情報から選択された特徴要素に基づいて、LIDARに対応する模擬特徴要素を生成して第4処理部15-4へ出力する(ステップS12a)。そして、第4処理部15-4は、模擬特徴要素を用いて、実施の形態1と同様にLIDARに対応する3次元点群データから特徴要素を抽出する(ステップS53)。
特徴要素抽出部14aは、第4処理部15-4により抽出された特徴要素を用いて、各センサに対応する模擬特徴要素を生成して第1処理部15-1~第4処理部15-4へそれぞれ出力する(ステップS65)。ステップS23,S33,S43は実施の形態1と同様である。対応付け部16bは、特徴要素対応付け処置として、LIDARの座標系を基準座標系とし基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力する(ステップS61b)。ステップS24~S26,S34~S36,S44~S46,S54~S56,S62~S64の処理は実施の形態1と同様である。
図15は、上述したステップS91で、処理対象地域および時間帯に対応するLIDARのセンサ情報が無いと判断された場合の全体処理は、実施の形態1のステップS61の特徴要素対応付け処理を除き、図3に示した処理と同様である。処理対象地域および時間帯に対応するLIDARのセンサ情報が無いと判断された場合、本実施の形態では、実施の形態1のステップS61のかわりに、対応付け部16bは、地図座標の座標系を基準座標系とし基準座標系における特徴要素の座標値と各センサに対応する座標系における特徴要素の座標値とを出力する。
以上のように、本実施の形態では、複数のセンサのうち最も精度がよいと想定されるセンサのセンサ情報が存在する場合には、最も精度がよいと想定されるセンサを基準として位置合わせを行うようにした。このため、高精度にセンサ画像データの位置合わせを行うことができる。
以上の実施の形態に示した構成は、本発明の内容の一例を示すものであり、別の公知の技術と組み合わせることも可能であるし、本発明の要旨を逸脱しない範囲で、構成の一部を省略、変更することも可能である。
1,1a,1b データ処理装置、2 センサ情報提供装置、3 地図情報提供装置、11 センサ情報取得部、12 地図情報取得部、13 処理情報記憶部、14,14a,22 特徴要素抽出部、15-1~15-n 第1処理部~第n処理部、16,16a,16b 対応付け部、17 解析部、18 表示処理部、19 選択部、21 補正部、23 位置合わせ部、31 情報出力部、32 調整部。

Claims (14)

  1. 対象地域の地図を含むデータである地図情報と、複数のセンサによって前記対象地域がそれぞれ観測されることによって得られる複数の観測データとのなかから、前記対象地域内の基準対象物に対応する部分である特徴要素を抽出する特徴要素抽出部と、
    前記地図情報および前記複数の観測データのうちの1つを、位置合わせの基準とする基準データとして選択する選択部と、
    前記複数の観測データのそれぞれについて、前記観測データに対応する前記特徴要素の位置を、前記基準データにおける前記特徴要素の位置と一致させるように、当該観測データの位置合わせを行う位置合わせ部と、
    を備え、
    前記特徴要素抽出部は、前記地図情報から抽出された特徴要素を用いて、前記センサごとに、当該センサで前記基準対象物が観測されたデータを模擬する模擬特徴要素を生成し、前記センサごとに、対応する前記模擬特徴要素を用いて、当該センサに対応する前記観測データから特徴要素を抽出することを特徴とするデータ処理装置。
  2. 前記特徴要素抽出部は、前記センサごとに、前記模擬特徴要素と前記観測データから抽出された特徴要素との類似度を算出し、
    前記選択部は、前記地図情報および前記複数の観測データのそれぞれについて、前記類似度を含む複数の評価項目ごとに精度の高さを含む評価値を算出し、評価項目ごとの前記評価値に基づいて総合評価値を算出し、前記地図情報および前記複数の観測データのそれぞれの前記総合評価値に基づいて前記基準データを選択することを特徴とする請求項に記載のデータ処理装置。
  3. 前記特徴要素抽出部は、前記センサごとに、前記模擬特徴要素と前記観測データから抽出された特徴要素との類似度を算出し、
    前記位置合わせ部は、前記センサごとに、前記観測データに対応する前記特徴要素の位置を、前記地図情報における前記特徴要素の位置と一致させる変換に用いられる局所変換パラメータを算出し、
    前記選択部は、
    前記センサごとに、算出された前記局所変換パラメータを用いて前記位置合わせを実施し、算出された前記局所変換パラメータである第1の局所変換パラメータと記憶されている平時の局所変換パラメータである第2の局所変換パラメータとの差分を算出し、
    前記センサごとの前記差分に基づいて算出される差分指数が閾値以上である場合に、前記差分と前記類似度とを含む複数の評価項目ごとに精度の高さを含む評価値を算出し、評価項目ごとの前記評価値に基づいて総合評価値を算出し、前記地図情報および前記複数の観測データのそれぞれの前記総合評価値に基づいて前記基準データを選択し、
    前記差分指数が閾値未満の場合、前記基準データとして前記地図情報を選択し、
    前記位置合わせ部は、前記基準データとして前記地図情報が選択された場合、前記第1の局所変換パラメータを用いて前記位置合わせを実施し、前記基準データとして前記地図情報以外が選択された場合、前記観測データに対応する前記特徴要素の位置を、前記基準データにおける前記特徴要素の位置と一致させる変換に用いられる第3の局所変換パラメータを算出し、前記第3の局所変換パラメータを用いて前記位置合わせを実施することを特徴とする請求項に記載のデータ処理装置。
  4. 対象地域の地図を含むデータである地図情報と、複数のセンサによって前記対象地域がそれぞれ観測されることによって得られる複数の観測データとのなかから、前記対象地域内の基準対象物に対応する部分である特徴要素を抽出する特徴要素抽出部と、
    前記地図情報および前記複数の観測データのうちの1つを、位置合わせの基準とする基準データとして選択する選択部と、
    前記複数の観測データのそれぞれについて、前記観測データに対応する前記特徴要素の位置を、前記基準データにおける前記特徴要素の位置と一致させるように、当該観測データの位置合わせを行う位置合わせ部と、
    を備え、
    前記選択部は、前記複数のセンサのうち、予め定められた最も精度の高いセンサの前記観測データが存在する場合、当該観測データを前記基準データとして選択し、
    前記特徴要素抽出部は、前記基準データから抽出された特徴要素を用いて、前記センサごとに、当該センサで前記基準対象物が観測されたデータを模擬する模擬特徴要素を生成し、前記センサごとに、対応する前記模擬特徴要素を用いて、当該センサに対応する前記観測データから特徴要素を抽出することを特徴とするデータ処理装置。
  5. 前記最も精度の高いセンサは、車両に搭載され3次元点群データを取得するライダーであることを特徴とする請求項に記載のデータ処理装置。
  6. 前記基準対象物は、複数の地上基準点、自然形成された造形物および建造物のうちの少なくとも1つであることを特徴とする請求項1からのいずれか1つに記載のデータ処理装置。
  7. 前記基準対象物は、線状の造形物であることを特徴とする請求項に記載のデータ処理装置。
  8. 前記位置合わせが施された前記観測データを用いて災害の発生した箇所を抽出する解析を行う解析部、
    を備えることを特徴とする請求項1からのいずれか1つに記載のデータ処理装置。
  9. 前記解析の結果を、前記位置合わせが施された前記複数の観測データ、および前記地図情報のうち少なくとも1つと重畳表示する表示処理部、
    を備えることを特徴とする請求項に記載のデータ処理装置。
  10. 前記表示処理部は、前記解析の結果を強調表示することを特徴とする請求項に記載のデータ処理装置。
  11. 前記位置合わせが施された前記複数の観測データのうちの少なくとも1つと前記地図情報とを重畳表示する表示処理部、
    を備えることを特徴とする請求項1からのいずれか1つに記載のデータ処理装置。
  12. 前記複数のセンサは、人工衛星または航空機に搭載されるセンサを含むことを特徴とする請求項1から1のいずれか1つに記載のデータ処理装置。
  13. 前記複数のセンサは、合成開口レーダを含むことを特徴とする請求項1に記載のデータ処理装置。
  14. データ処理装置が、
    対象地域の地図を含むデータである地図情報と、複数のセンサによって前記対象地域がそれぞれ観測されることによって得られる複数の観測データとのなかから、前記対象地域内の基準対象物に対応する部分である特徴要素を抽出する第1ステップと、
    前記地図情報および前記複数の観測データのうちの1つを、位置合わせの基準とする基準データとして選択する第2ステップと、
    前記複数の観測データのそれぞれについて、前記観測データに対応する前記特徴要素の位置を、前記基準データにおける前記特徴要素の位置と一致させるように、当該観測データの位置合わせを行う第3ステップと、を含み、
    前記データ処理装置は、第1ステップでは、前記地図情報から抽出された特徴要素を用いて、前記センサごとに、当該センサで前記基準対象物が観測されたデータを模擬する模擬特徴要素を生成し、前記センサごとに、対応する前記模擬特徴要素を用いて、当該センサに対応する前記観測データから特徴要素を抽出することを特徴とするデータ処理方法。
JP2021553995A 2019-10-31 2019-10-31 データ処理装置およびデータ処理方法 Active JP7241906B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/042834 WO2021084696A1 (ja) 2019-10-31 2019-10-31 データ処理装置およびデータ処理方法

Publications (3)

Publication Number Publication Date
JPWO2021084696A1 JPWO2021084696A1 (ja) 2021-05-06
JPWO2021084696A5 JPWO2021084696A5 (ja) 2022-06-16
JP7241906B2 true JP7241906B2 (ja) 2023-03-17

Family

ID=75714998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021553995A Active JP7241906B2 (ja) 2019-10-31 2019-10-31 データ処理装置およびデータ処理方法

Country Status (3)

Country Link
JP (1) JP7241906B2 (ja)
CN (1) CN114599996A (ja)
WO (1) WO2021084696A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023047441A1 (ja) * 2021-09-21 2023-03-30 日本電気株式会社 情報提供装置、情報提供方法、記録媒体、および観測システム
JP7235159B1 (ja) * 2021-09-29 2023-03-08 株式会社リコー 情報処理装置、情報処理システム、情報処理方法およびプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002319016A (ja) 2001-02-07 2002-10-31 Nippon Telegr & Teleph Corp <Ntt> 画像の位置ずれ補正方法、画像の位置ずれ補正プログラムを記録した記録媒体、画像の位置ずれ補正プログラム、及び画像の位置ずれ補正装置
WO2008016153A1 (fr) 2006-08-03 2008-02-07 Pasco Corporation procédé de prise en charge de contre-mesures pour une catastrophe
JP2012073845A (ja) 2010-09-29 2012-04-12 Hitachi Ltd 計算機システム、及び画像/図表を位置合わせする方法
JP2017106755A (ja) 2015-12-07 2017-06-15 株式会社パスコ レーザ計測システム及びレーザ計測方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61239367A (ja) * 1985-04-15 1986-10-24 Nec Corp 画像の基準点位置決定方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002319016A (ja) 2001-02-07 2002-10-31 Nippon Telegr & Teleph Corp <Ntt> 画像の位置ずれ補正方法、画像の位置ずれ補正プログラムを記録した記録媒体、画像の位置ずれ補正プログラム、及び画像の位置ずれ補正装置
WO2008016153A1 (fr) 2006-08-03 2008-02-07 Pasco Corporation procédé de prise en charge de contre-mesures pour une catastrophe
JP2012073845A (ja) 2010-09-29 2012-04-12 Hitachi Ltd 計算機システム、及び画像/図表を位置合わせする方法
JP2017106755A (ja) 2015-12-07 2017-06-15 株式会社パスコ レーザ計測システム及びレーザ計測方法

Also Published As

Publication number Publication date
CN114599996A (zh) 2022-06-07
JPWO2021084696A1 (ja) 2021-05-06
WO2021084696A1 (ja) 2021-05-06

Similar Documents

Publication Publication Date Title
Zhao et al. Structural health monitoring and inspection of dams based on UAV photogrammetry with image 3D reconstruction
James et al. 3‐D uncertainty‐based topographic change detection with structure‐from‐motion photogrammetry: precision maps for ground control and directly georeferenced surveys
Dominici et al. UAV photogrammetry in the post-earthquake scenario: case studies in L'Aquila
Congress et al. Total system error analysis of UAV-CRP technology for monitoring transportation infrastructure assets
Takaku et al. Generation of high resolution global DSM from ALOS PRISM
EP1709396B1 (en) System,computer program and method for 3d object measurement, modeling and mapping from single imagery
Gonçalves et al. Accuracy and effectiveness of low cost UASs and open source photogrammetric software for foredunes mapping
Zekkos et al. Lessons learned from the application of UAV-enabled structure-from-motion photogrammetry in geotechnical engineering
KR100795396B1 (ko) 항공레이저 데이터와 수치정사영상을 이용한 도시 변화모니터링 방법
JP2018506700A (ja) 移動体用の改良型環境表示を生成するためのシステムおよび方法
KR101891087B1 (ko) 드론을 이용한 암반사면의 안정성 평가방법
Walstra et al. Historical aerial photographs for landslide assessment: two case histories
JP7241906B2 (ja) データ処理装置およびデータ処理方法
Schenk et al. Fusion of multi-sensor surface elevation data for improved characterization of rapidly changing outlet glaciers in Greenland
KR100904078B1 (ko) 항공 사진의 영상정합을 이용한 3차원 공간 정보 생성 시스템 및 방법
Mirko et al. Assessing the Impact of the Number of GCPS on the Accuracy of Photogrammetric Mapping from UAV Imagery
Gonçalves et al. Monitoring Local Shoreline Changes by Integrating UASs, Airborne LiDAR, Historical Images and Orthophotos.
Chrysoulakis et al. Validation of ASTER GDEM for the Area of Greece
Miller et al. A robust surface matching technique for coastal geohazard assessment and management
Vassilakis et al. Post-event surface deformation of Amyntaio slide (Greece) by complementary analysis of Remotely Piloted Airborne System imagery and SAR interferometry
Javadnejad Small unmanned aircraft systems (UAS) for engineering inspections and geospatial mapping
Saldaña et al. DSM Extraction and evaluation from geoeye-1 stereo imagery
KR102478816B1 (ko) 무인항공기를 이용한 경사면의 안정성 평가 및 관리방법
Santos Filho et al. Cartographic Accuracy Standard (CAS) of the digital terrain model of the digital and continuous cartographic base of the state of Amapá: case study in the city of Macapá
Rabiu et al. Unmanned Aerial Vehicle Photogrammetric Products Accuracy Assessment: a Review

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220401

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230307

R150 Certificate of patent or registration of utility model

Ref document number: 7241906

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150