JP7048402B2 - Data store system and data store management method - Google Patents

Data store system and data store management method Download PDF

Info

Publication number
JP7048402B2
JP7048402B2 JP2018083399A JP2018083399A JP7048402B2 JP 7048402 B2 JP7048402 B2 JP 7048402B2 JP 2018083399 A JP2018083399 A JP 2018083399A JP 2018083399 A JP2018083399 A JP 2018083399A JP 7048402 B2 JP7048402 B2 JP 7048402B2
Authority
JP
Japan
Prior art keywords
sensor
data set
volume
write frequency
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018083399A
Other languages
Japanese (ja)
Other versions
JP2019191894A (en
Inventor
宏文 猪股
幸一 谷本
悟 堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2018083399A priority Critical patent/JP7048402B2/en
Publication of JP2019191894A publication Critical patent/JP2019191894A/en
Application granted granted Critical
Publication of JP7048402B2 publication Critical patent/JP7048402B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、概して、データストアに関するものである。 The present invention generally relates to data stores.

データストアに関して、例えば、仮想化されたITシステムを利用することが考えられる。特許文献１は、「仮想計算機を設定可能な１つ以上の計算機と、仮想ストレージを設定可能な１つ以上のストレージ装置と、前記計算機と前記ストレージとを接続して仮想SANを設定可能なファイバチャネルスイッチ装置と、仮想ネットワークを設定可能なネットワークを介して、前記計算機、前記ストレージ装置及び前記ファイバチャネルスイッチと接続される管理計算機とを備えるシステムにおいて、管理計算機が、仮想リソースの構成管理情報と、物理リソースの構成管理情報を有し、指定された時間における仮想リソース及び物理リソースの動作を検索し、検索結果をチェックリストとして動的に出力する。」を開示している。 Regarding the data store, for example, it is conceivable to use a virtualized IT system. Patent Document 1 describes "a fiber capable of setting a virtual SAN by connecting one or more computers capable of setting a virtual computer, one or more storage devices capable of setting virtual storage, and the computer and the storage. In a system including the computer, the storage device, and a management computer connected to the fiber channel switch via a network in which a virtual network can be set, the management computer can be used as virtual resource configuration management information. , Has physical resource configuration management information, searches for virtual resources and physical resource operations at a specified time, and dynamically outputs the search results as a checklist. "

特開2011-081579号公報Japanese Unexamined Patent Publication No. 2011-081579

昨今、増加し続けている社会インフラ（上下水道、ガス、電気、など）において、老朽化した配管の交換や事故も増加してきていると考えている。今後、この社会インフラの運用保守も含め、TCO（Total Cost of Ownership）の増加を抑えるためのIoT（Internet of things）システムやIoTサービスが、求められてくる。特に、複数の自治体やライフライン企業から共同利用されるIoTサービスにおいては、サービスの利用状況から、利用者にとって価値のある情報のフィードバックなど、付加価値への期待も高くなってくると考えている。自治体やライフライン企業は、ユーザの一例である。 In recent years, in the ever-increasing social infrastructure (water and sewage, gas, electricity, etc.), we believe that the replacement of aging pipes and accidents are also increasing. In the future, IoT (Internet of things) systems and IoT services will be required to curb the increase in TCO (Total Cost of Ownership), including the operation and maintenance of this social infrastructure. In particular, for IoT services that are shared by multiple local governments and lifeline companies, we believe that expectations for added value will increase, such as feedback of information that is valuable to users, depending on the usage status of the service. .. Municipalities and lifeline companies are examples of users.

この背景のもと、各市町村が管轄する水道管に設置され、その状態を測定するセンサ（センサデバイス）は、任意にグルーピングされ、無線もしくは有線で、センサ通信ネットワークに、接続される。それらグループごとに、さらに、公衆網（インターネット）へと接続される。 Against this background, sensors (sensor devices) installed in water pipes under the jurisdiction of each municipality and measuring their status are arbitrarily grouped and connected to the sensor communication network wirelessly or by wire. Each of these groups is further connected to the public network (Internet).

センサからのセンサデータセット（例えば、測定日時と測定値とを含んだデータセット）は、インターネットを介して、データストアシステムの一例であるデータレイクサービスシステム（例えば、柔軟なスケーラビリティのあるストレージシステムを含んだシステム）に、格納される。 A sensor data set from a sensor (eg, a data set containing a measurement date and time and a measurement value) is an example of a data store system, a data lake service system (eg, a flexible and scalable storage system) via the Internet. It is stored in the included system).

共同利用でなく、独占利用のIoTシステムの場合、データレイクサービスストレージシステムは、データ量やスループットの増減に応じて、リソースの無駄遣いや、サービスの滞りを防げるように、スケールアウトやスケールインといったスケーリングが可能である。ただし、広域災害などの発生で、データ量の急な増加に対しては、経験的な知識基づき、予めデータ量のピークを見積り、余裕をもったスケールで、運用を行っている。また、既知のバッチ処理に関しては、ITリソース（例えば、計算機リソースやストレージリソース）の不足が起きないように、予めスケジュールを組み実行している。 For exclusive use IoT systems rather than shared use, data lake service storage systems scale out and scale in to prevent wasting resources and service stagnation as data volumes and throughput increase and decrease. Is possible. However, in response to a sudden increase in the amount of data due to a wide-area disaster, etc., the peak of the amount of data is estimated in advance based on empirical knowledge, and operations are carried out on a scale with a margin. In addition, for known batch processing, schedules are set and executed in advance so that IT resources (for example, computer resources and storage resources) do not run short.

今後、社会インフラのTCO増加軽減のため、IoTシステムを共同利用するIoTサービスの利用が求められてくると考えられる。 In the future, in order to reduce the increase in TCO of social infrastructure, it is expected that the use of IoT services that share IoT systems will be required.

このようなサービス実現において、IoTシステムとしてのデータレイクサービスシステムを管理する運用管理者は、当該システムを共同利用する複数のユーザが管理対象となるため、ユーザ（例えば顧客）個別の特性の理解が低くなる。この課題を解決する一つの方法として、ユーザ毎に時系列のセンサデータセットを分析するといった方法が考えられる。しかし、センサデータセットのデータフォーマットは、ユーザによって異なっていることがあるため、ユーザ毎に、データフォーマットを管理し、且つ、そのデータフォーマットに沿ってセンサデータセットを分析することが必要になり、負担が大きいと考えられる。 In realizing such a service, the operation manager who manages the data lake service system as an IoT system can manage multiple users who share the system, so that the characteristics of each user (for example, customer) can be understood. It gets lower. As one method to solve this problem, a method of analyzing a time-series sensor data set for each user can be considered. However, since the data format of the sensor data set may differ depending on the user, it is necessary to manage the data format for each user and analyze the sensor data set according to the data format. It is considered that the burden is heavy.

このような課題は、複数のユーザから共同利用される他のデータストアシステムについてもあり得る。 Such issues may also apply to other data store systems that are shared by multiple users.

データストアシステムが、複数のユーザにそれぞれ対応した複数の地域に関わる複数のセグメントに存在する複数のセンサの各々について、当該センサの測定値に関して所定の条件が満たされる都度に、当該センサのセンサデータセットの書込み要求を受信するようになっている。データストアシステムは、いずれかのセンサのセンサデータセットの書込み要求を受信した場合、複数のユーザにそれぞれ対応した複数のボリュームのうち、当該センサが存在するセグメントが関わる地域に対応するユーザに対応したボリュームに対する、当該センサデータセットの書込み要求を発行する。複数のボリュームの各々は、１以上のストレージノードであるスケールアウト型のストレージノード群に基づいている。複数のボリュームにそれぞれ対応した複数のストレージノード群は、同一のストレージシステムに存在する複数のストレージノードである。複数のボリュームの各々において、当該ボリュームに格納されている各センサデータセットに、当該センサデータセットが存在するセグメントの地理的な位置と、当該センサデータセットに関する時間とが関連付けられる。データストアシステムは、複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域を構成するセグメント毎に書込み頻度を監視する。 Each time the data store system satisfies a predetermined condition for the measured value of the sensor for each of the plurality of sensors existing in the plurality of segments related to the plurality of regions corresponding to the plurality of users, the sensor data of the sensor. It is designed to receive write requests for sets. When the data store system receives a write request for the sensor data set of any sensor, it corresponds to the user corresponding to the region where the segment in which the sensor is located is involved among the multiple volumes corresponding to each of the multiple users. Issue a write request for the sensor dataset to the volume. Each of the plurality of volumes is based on a group of scale-out storage nodes which are one or more storage nodes. A plurality of storage nodes corresponding to a plurality of volumes are a plurality of storage nodes existing in the same storage system. In each of the plurality of volumes, each sensor data set stored in the volume is associated with the geographical location of the segment in which the sensor data set resides and the time associated with the sensor data set. The data store system monitors the write frequency of each of the plurality of volumes for each segment constituting the region regarding the user corresponding to the volume.

本発明によると、単一ユーザ専属ではなく、ユーザ個別の特性を理解しない運用管理者でも、書込み頻度の変化と当該変化の生じたセグメントの位置とを基に、異常のような特定イベントが発生している地域を特定可能である。 According to the present invention, even an operation administrator who is not exclusive to a single user and does not understand the characteristics of each user can generate a specific event such as an abnormality based on the change in write frequency and the position of the segment in which the change occurs. It is possible to identify the area where it is located.

図１は、本発明の一実施例に係るデータレイクサービスシステムを含んだシステム全体の構成図。FIG. 1 is a configuration diagram of an entire system including a data lake service system according to an embodiment of the present invention. 図２は、データレイクシステムのデータ構成の一例を示す図。FIG. 2 is a diagram showing an example of a data structure of a data lake system. 図３は、センサ設置位置と地域の対応関係の一例を示す図。FIG. 3 is a diagram showing an example of the correspondence between the sensor installation position and the area. 図４は、管理DBにおける管理テーブルの構成を示す図。FIG. 4 is a diagram showing the configuration of the management table in the management DB. 図５は、管理DBにおける管理テーブルの構成を示す図。FIG. 5 is a diagram showing a configuration of a management table in the management DB. 図６は、センサの内部構成図。FIG. 6 is an internal configuration diagram of the sensor. 図７は、リダイレクトサーバの内部構成図。FIG. 7 is an internal configuration diagram of the redirect server. 図８は、アプリケーションサーバの内部構成図。FIG. 8 is an internal configuration diagram of the application server. 図９は、ユーザ端末の内部構成図。FIG. 9 is an internal configuration diagram of the user terminal. 図１０は、セットアップ画面の一例を示す図。FIG. 10 is a diagram showing an example of a setup screen. 図１１は、管理ノードの内部構成図。FIG. 11 is an internal configuration diagram of the management node. 図１２は、ストレージノードの内部構成図。FIG. 12 is an internal configuration diagram of the storage node. 図１３は、センサ転送プログラムの動作フロー図。FIG. 13 is an operation flow diagram of the sensor transfer program. 図１４は、ユーザ端末プログラムの動作フロー図。FIG. 14 is an operation flow diagram of the user terminal program. 図１５は、ユーザサービスプログラムの動作フロー図。FIG. 15 is an operation flow diagram of the user service program. 図１６は、監視プログラムの動作フロー図。FIG. 16 is an operation flow diagram of the monitoring program. 図１７は、ファイルアクセスプログラムの動作フロー図。FIG. 17 is an operation flow diagram of the file access program.

以下の説明では、「インターフェース部」は、１個以上のインターフェースで良い。当該１個以上のインターフェースは、１個以上の同種の通信インターフェースデバイス（例えば１個以上のＮＩＣ（Network Interface Card））であっても良いし２個以上の異種の通信インターフェースデバイス（例えばＮＩＣとＨＢＡ（Host Bus Adapter））であっても良い。 In the following description, the "interface unit" may be one or more interfaces. The one or more interfaces may be one or more communication interface devices of the same type (for example, one or more NICs (Network Interface Cards)) or two or more different types of communication interface devices (for example, NIC and HBA). (Host Bus Adapter)).

また、以下の説明では、「メモリ部」は、１個以上のメモリであり、典型的には主記憶デバイスで良い。メモリ部における少なくとも１つのメモリは、揮発性メモリであっても良いし不揮発性メモリであっても良い。 Further, in the following description, the "memory unit" is one or more memories, and may be typically a main storage device. At least one memory in the memory unit may be a volatile memory or a non-volatile memory.

また、以下の説明では、「ＰＤＥＶ部」は、１個以上のＰＤＥＶであり、典型的には補助記憶デバイスで良い。「ＰＤＥＶ」は、物理的な記憶デバイス（Physical storage DEVice）を意味し、典型的には、不揮発性の記憶デバイス、例えばＨＤＤ（Hard Disk Drive）又はＳＳＤ（Solid State Drive）である。つまり、ＰＤＥＶ部は、記憶デバイス部の一例である。 Further, in the following description, the "PDEV unit" is one or more PDEVs, and typically may be an auxiliary storage device. "PDEV" means a physical storage DEVice, typically a non-volatile storage device such as an HDD (Hard Disk Drive) or SSD (Solid State Drive). That is, the PDEV unit is an example of the storage device unit.

また、以下の説明では、「記憶部」は、メモリ部及びＰＤＥＶ部のうちの少なくとも１つ（典型的には少なくともメモリ部）である。 Further, in the following description, the "storage unit" is at least one of the memory unit and the PDEV unit (typically, at least the memory unit).

また、以下の説明では、「プロセッサ部」は、１個以上のプロセッサである。少なくとも１つのプロセッサは、典型的には、ＣＰＵ（Central Processing Unit）のようなマイクロプロセッサであるが、ＧＰＵ（Graphics Processing Unit）のような他種のプロセッサでも良い。少なくとも１つのプロセッサは、シングルコアでも良いしマルチコアでも良い。少なくとも１つのプロセッサは、処理の一部又は全部を行うハードウェア回路（例えばＦＰＧＡ（Field-Programmable Gate Array）又はＡＳＩＣ（Application Specific Integrated Circuit））といった広義のプロセッサでも良い。 Further, in the following description, the "processor unit" is one or more processors. The at least one processor is typically a microprocessor such as a CPU (Central Processing Unit), but may be another type of processor such as a GPU (Graphics Processing Unit). At least one processor may be single-core or multi-core. The at least one processor may be a processor in a broad sense such as a hardware circuit (for example, FPGA (Field-Programmable Gate Array) or ASIC (Application Specific Integrated Circuit)) that performs a part or all of the processing.

また、以下の説明では、「ｘｘｘテーブル」といった表現にて、入力に対して出力が得られる情報を説明することがあるが、この種の情報は、どのような構造のデータでも良いし、入力に対する出力を発生するニューラルネットワークのような学習モデルでも良い。従って、「ｘｘｘテーブル」を「ｘｘｘ情報」と言うことができる。また、以下の説明において、各テーブルの構成は一例であり、１つのテーブルは、２個以上のテーブルに分割されても良いし、２個以上のテーブルの全部又は一部が１つのテーブルであっても良い。 Further, in the following description, information that can be output with respect to an input may be described by an expression such as "xxx table", but this kind of information may be data of any structure and may be input. It may be a learning model such as a neural network that produces an output for. Therefore, the "xxx table" can be referred to as "xxx information". Further, in the following description, the configuration of each table is an example, and one table may be divided into two or more tables, or all or a part of the two or more tables is one table. May be.

また、以下の説明では、「プログラム」を主語として処理を説明する場合があるが、プログラムは、プロセッサ部によって実行されることで、定められた処理を、適宜に記憶部及び／又はインターフェース部等を用いながら行うため、処理の主語が、プロセッサ部（或いは、そのプロセッサ部を有するコントローラのようなデバイス）とされても良い。プログラムは、プログラムソースから計算機のような装置にインストールされても良い。プログラムソースは、例えば、プログラム配布サーバ又は計算機が読み取り可能な（例えば非一時的な）記録媒体であっても良い。また、以下の説明において、２個以上のプログラムが１つのプログラムとして実現されても良いし、１つのプログラムが２個以上のプログラムとして実現されても良い。 Further, in the following description, the process may be described with "program" as the subject, but the program is executed by the processor unit to appropriately perform the specified process in the storage unit and / or the interface unit, etc. The subject of the process may be a processor unit (or a device such as a controller having the processor unit). The program may be installed from the program source into a device such as a calculator. The program source may be, for example, a program distribution server or a computer-readable (eg, non-temporary) recording medium. Further, in the following description, two or more programs may be realized as one program, or one program may be realized as two or more programs.

また、以下の説明では、「ｋｋｋ部」（インターフェース部、記憶部及びプロセッサ部を除く）の表現にて機能を説明することがあるが、機能は、１個以上のコンピュータプログラムがプロセッサ部によって実行されることで実現されても良いし、１個以上のハードウェア回路によって実現されても良い。各機能の説明は一例であり、複数の機能が１つの機能にまとめられたり、１つの機能が複数の機能に分割されたりしても良い。 Further, in the following description, the function may be described by the expression of "kkk unit" (excluding the interface unit, the storage unit, and the processor unit), but the function is executed by one or more computer programs by the processor unit. It may be realized by the above, or it may be realized by one or more hardware circuits. The description of each function is an example, and a plurality of functions may be combined into one function, or one function may be divided into a plurality of functions.

また、以下の説明では、「ストレージシステム」は、複数のストレージノードを含んだシステムである。当該複数のストレージノードから、複数のユーザに対応した複数のボリュームの基になる複数のストレージノード群が構築されて良い。ボリュームとストレージノード群の関係は、１：１、１：多、多：１、多：多のいずれでも良い。ストレージノード群は、典型的には、スケールアウト型のストレージシステム、或いは、分散ストレージシステムと呼ばれて良い。「ストレージノード」は、ストレージシステムのメンバとしての装置であり、汎用計算機でも良いし、専用計算機（例えば、複数個のＰＤＥＶを有するいわゆるディスクアレイ装置のようなストレージ装置）でも良い。ストレージノード群は、冗長構成グループを有して良い。冗長構成は、Erasure Coding、ＲＡＩＮ（Redundant Array of Independent Nodes）及びノード間ミラーリングのように複数のストレージノードでの構成でも良いし、ＰＤＥＶ部の少なくとも一部としての１以上のＲＡＩＤ（Redundant Array of Independent (or Inexpensive) Disks）グループのように単一の計算機（例えばストレージノード）での構成でも良い。 Further, in the following description, the "storage system" is a system including a plurality of storage nodes. From the plurality of storage nodes, a plurality of storage node groups that are the basis of a plurality of volumes corresponding to a plurality of users may be constructed. The relationship between the volume and the storage node group may be 1: 1, 1: many, many: 1, many: many. The storage node group may be typically referred to as a scale-out storage system or a distributed storage system. The "storage node" is a device as a member of the storage system, and may be a general-purpose computer or a dedicated computer (for example, a storage device such as a so-called disk array device having a plurality of PDEVs). The storage node group may have a redundant configuration group. The redundant configuration may be a configuration with a plurality of storage nodes such as Erasure Coding, RAIN (Redundant Array of Independent Nodes) and inter-node mirroring, or one or more RAIDs (Redundant Array of Independent) as at least a part of the PDEV part. (or Inexpensive) Disks) It may be configured by a single computer (for example, a storage node) such as a group.

また、以下の説明では、「データセット」とは、アプリケーションプログラムのようなプログラムから見た１つの論理的な電子データの塊であり、例えば、レコード、ファイル、キーバリューペア及びタプルのうちのいずれでも良い。 Further, in the following description, a "data set" is a logical mass of electronic data seen from a program such as an application program, and is, for example, a record, a file, a key-value pair, or a taple. But it's okay.

また、以下の説明では、同種の要素を区別しないで説明する場合には、参照符号のうちの共通部分を使用し、同種の要素を区別して説明する場合に、参照符号を使用することがある。例えば、ストレージノードを特に区別しないで説明する場合には、「ストレージノード１４」と記載し、個々のノードを区別して説明する場合には、「ストレージノード１４ａ」、「ストレージノード１４ｂ」のように記載することがある。 Further, in the following description, the common part of the reference codes may be used when the same type of elements are not distinguished, and the reference code may be used when the same type of elements are described separately. .. For example, when the storage nodes are described without any distinction, they are described as "storage node 14", and when the individual nodes are described separately, they are described as "storage node 14a" and "storage node 14b". May be described.

以下、本発明の一実施例を、図面を参照し、説明する。なお、以下の説明で言う「セグメント」は、例えば、geometric segmentで良い。 Hereinafter, an embodiment of the present invention will be described with reference to the drawings. The "segment" referred to in the following description may be, for example, a geometric segment.

以下、各要素の構成並びに、動作フローを用いて詳細を説明する。 Hereinafter, details will be described using the configuration of each element and the operation flow.

なお、以下の説明では、ボリューム１０３を実現するストレージノード群（例えば分散ファイルストレージシステム）（例えば、後述のデータアクセスプログラム１４１０、ノード増設プログラム１４１１、ノード減設プログラム１４１２）自身の動作並びに仕様に関しては、例えば、Cephのような既知の技術に従って良い。 In the following description, the operation and specifications of the storage node group (for example, the distributed file storage system) (for example, the data access program 1410, the node expansion program 1411, and the node reduction program 1412 described later) that realize the volume 103 will be described. , For example, a known technique such as Ceph may be followed.

図１は、本発明の一実施例に係るデータレイクサービスシステムを含んだシステム全体の構成図である。 FIG. 1 is a configuration diagram of an entire system including a data lake service system according to an embodiment of the present invention.

複数のセグメントから構成される複数の地域に複数のセンサ２０１が配置される。 A plurality of sensors 201 are arranged in a plurality of areas composed of a plurality of segments.

ユーザ毎に、当該ユーザに関する地域に配置されている１以上のセンサ２０１の各々からのセンサデータセット（例えば、当該センサ２０１の測定値と測定日時とを含んだデータセット）を収集し分析や可視化の処理が実行されるユーザアプリケーションシステム１０１が設けられる。ユーザアプリケーションシステム１０１のうちの少なくとも一部が、複数のユーザに共通でも良い。 For each user, a sensor data set (for example, a data set including the measured value of the sensor 201 and the measurement date and time) from each of one or more sensors 201 located in the area related to the user is collected, analyzed, and visualized. The user application system 101 in which the processing of the above is executed is provided. At least a part of the user application system 101 may be common to a plurality of users.

ユーザアプリケーションシステム１０１からのセンサデータセットを保存し、ユーザアプリケーションシステム１０１からの要求されるデータを提供するデータレイクサービスシステム１０２が備えられる。データレイクシステム１０２が、管理ノード１３と、１以上のストレージノード１４とを含む。データレイクシステム１０２のうちの少なくとも管理ノード１３が、データストアシステムの一例である。 A data lake service system 102 is provided that stores the sensor data set from the user application system 101 and provides the requested data from the user application system 101. The data lake system 102 includes a management node 13 and one or more storage nodes 14. At least the management node 13 of the data lake system 102 is an example of a data store system.

各センサ２０１とユーザアプリケーションシステム１０１との間に、センサデータセットを仲介するセンサネットワーク２がある。また、ユーザアプリケーションシステム１０１とデータレイクサービスシステム１０２との間に、データ通信を仲介するデータレイクネットワーク１がある。センサネットワーク２は、無線方式（WiFi（登録商標）、LPWA（Low Power Wide Area）、Bluetooth（登録商標）、etc.）のネットワークと、有線方式のネットワークのどちらでも良い。データレイクネットワーク１は、インターネット、LAN（Local Area Network）、WAN（Wide Area Network）など、データ通信を提供できる通信ネットワークであれば良い。 Between each sensor 201 and the user application system 101, there is a sensor network 2 that mediates a sensor data set. Further, there is a data lake network 1 that mediates data communication between the user application system 101 and the data lake service system 102. The sensor network 2 may be either a wireless network (WiFi (registered trademark), LPWA (Low Power Wide Area), Bluetooth (registered trademark), etc.) or a wired network. The data lake network 1 may be any communication network that can provide data communication, such as the Internet, LAN (Local Area Network), and WAN (Wide Area Network).

図示の模式的な地理１００は、複数のセンサ２０１が現実の複数の地域を含んだ複数の地帯に設定されていることを、説明を簡便化する表記である。例として、日本の大陸の境界線を併記している。例えば、或るセンサ２０１は、九州北西に設置されていることがわかる。 The schematic geography 100 in the figure is a notation that simplifies the explanation that the plurality of sensors 201 are set in a plurality of zones including a plurality of actual regions. As an example, the boundaries of the Japanese continent are also shown. For example, it can be seen that a certain sensor 201 is installed in the northwestern part of Kyushu.

ユーザアプリケーションシステム１０１は、リダイレクトサーバ９、アプリケーションサーバ１０、及び、ユーザ端末１１を含む。 The user application system 101 includes a redirect server 9, an application server 10, and a user terminal 11.

リダイレクトサーバ９は、センサネットワーク２を介して、各センサ２０１からセンサデータセットを収集し、データレイクサービスシステム１０２のボリューム１０３へ、収集したセンサデータセットを送信（格納）する。 The redirect server 9 collects sensor data sets from each sensor 201 via the sensor network 2, and transmits (stores) the collected sensor data sets to the volume 103 of the data lake service system 102.

アプリケーションサーバ１０は、データレイクネットワーク１を介して、データレイクサービスシステム１０２のボリューム１０３が保持するセンサデータセットを取得して、分析もしくは、可視化する処理を実行する。 The application server 10 acquires a sensor data set held by the volume 103 of the data lake service system 102 via the data lake network 1 and executes a process of analyzing or visualizing the sensor data set.

ユーザ端末１１は、アプリケーションサーバ１０の実行した可視化処理の結果の表示と、データレイクサービスシステム１０２の設定操作を行う。 The user terminal 11 displays the result of the visualization process executed by the application server 10 and performs a setting operation of the data lake service system 102.

データレイクサービスシステム１０２は、上述したように、データを保持する１以上のストレージノード１４と、それらを管理する管理ノード１３とを有する。ストレージノード１４は、ＰＤＥＶ部１５を有する。管理ノード１３は、後述の複数の管理テーブルを保持する管理ＤＢ（データベース）４を有する。 As described above, the data lake service system 102 has one or more storage nodes 14 for holding data and a management node 13 for managing them. The storage node 14 has a PDEV unit 15. The management node 13 has a management DB (database) 4 that holds a plurality of management tables described later.

分散ファイルストレージシステムとしてのストレージノード群（１以上のストレージノード１４）が、ボリューム１０３として、ユーザアプリケーションシステム１０１から使用される。また、スケールアウトが行われる場合、矢印１０５に示すように、保持しているデータは維持しつつ、一部の新たなストレージノード１４ｄが、ボリューム１０３Ａを提供するメンバとして増設され、結果として、ボリューム１０３Ａ（ストレージノード１４ａ～１４ｃに基づくボリューム）がボリューム１０３Ｂに拡張される。拡張後のボリューム１０３Ｂが、ユーザアプリケーションシステム１０１から使用される。また、逆に、矢印１０６に示すように、スケールインが行われた場合、保持しているデータは維持しつつ、ボリューム１０３Ｂを提供するメンバから一部のストレージノード１４ｄが減設されて、結果として、ボリューム１０３Ｂがボリューム１０３Ａに縮小される。縮小後のボリューム１０３Ａが、ユーザアプリケーションシステム１０１から使用される。ただし、分散ファイルストレージシステムによってデータセットが多重化されるので、一般的に、ストレージノード１４の台数は、多重度より多い台数が使用される。 A storage node group (one or more storage nodes 14) as a distributed file storage system is used as a volume 103 from the user application system 101. Further, when the scale-out is performed, as shown by the arrow 105, some new storage nodes 14d are added as members to provide the volume 103A while maintaining the retained data, and as a result, the volume is added. 103A (volume based on storage nodes 14a to 14c) is expanded to volume 103B. The expanded volume 103B is used from the user application system 101. On the contrary, as shown by the arrow 106, when the scale-in is performed, some storage nodes 14d are reduced from the members providing the volume 103B while maintaining the retained data, resulting in the result. As a result, the volume 103B is reduced to the volume 103A. The reduced volume 103A is used from the user application system 101. However, since the data set is multiplexed by the distributed file storage system, the number of storage nodes 14 is generally larger than the number of multiplexes.

以上で、本実施例のシステムの全体構成を説明した。 The overall configuration of the system of this embodiment has been described above.

図２は、データレイクサービスシステム１０２が有するボリューム１０３のデータ構成の一例を示している。 FIG. 2 shows an example of the data configuration of the volume 103 included in the data lake service system 102.

このデータ構成は、データレイクサービスシステム１０２に対してアクセスを行うデータレイクアクセスプログラム９１３及び１０１１（図７及び図８）に把握される。 This data structure is grasped by the data lake access programs 913 and 1011 (FIGS. 7 and 8) that access the data lake service system 102.

ボリューム１０３が保持するセンサデータセットは、本実施例では、ファイルである。ボリューム１０３では、データ構成は、ネームスペースのように、フォルダ（ディレクトリ）やファイルのようなノードと、ノード間のエッジとを含んだ木構造（階層構造）である。ファイルは、階層化されたフォルダのうち、当該ファイルに関連付けられている測定日時と測定位置にフォルダに格納される。 The sensor data set held by the volume 103 is a file in this embodiment. In the volume 103, the data structure is a tree structure (hierarchical structure) including nodes such as folders (directories) and files and edges between the nodes, like a namespace. The file is stored in the folder at the measurement date and time and the measurement position associated with the file among the hierarchical folders.

図２の例によれば、ボリューム１０３の先頭のフォルダ“root”２１４に、測定日時で分類する１以上のフォルダ“Daytime”２１３が属する。各フォルダ“Daytime”２１３には、測定位置で分類する１以上のフォルダ“Segment”２１２が属する。フォルダ“Segment”２１２に、１以上のファイル２１１が格納される。具体的には、図２のデータ構成によれば、或るファイル２１１の格納先フォルダは、当該或るファイル２１１に関連付いている測定日時が属するフォルダ“Daytime”２１３に属する複数のフォルダ“Segment”２１２のうちの、当該或るファイル２１１に関連付いている測定位置が属するセグメント（地区）２０２に対応したフォルダ“Segment”２１２である。 According to the example of FIG. 2, one or more folders “Daytime” 213 classified by the measurement date and time belong to the folder “root” 214 at the head of the volume 103. Each folder "Daytime" 213 belongs to one or more folders "Segment" 212 classified by measurement position. One or more files 211 are stored in the folder "Segment" 212. Specifically, according to the data structure of FIG. 2, the storage destination folder of a certain file 211 is a plurality of folders "Segment" belonging to the folder "Daytime" 213 to which the measurement date and time associated with the certain file 211 belongs. "212, the folder" Segment "212 corresponding to the segment (district) 202 to which the measurement position associated with the certain file 211 belongs.

なお、フォルダ“Segment”２１２は、例えば、測定位置の緯度と経度から計算式で求まる情報で定義されても良い。また、地域を特定する地名に相当する情報を使用することもできる。 The folder "Segment" 212 may be defined by, for example, information obtained by a calculation formula from the latitude and longitude of the measurement position. It is also possible to use information corresponding to a place name that identifies a region.

また、フォルダ“Daytime”２１１とフォルダ“Segment”２１２の上下関係は、逆にしても良いが、センサの寿命の問題などで、ファイル（センサデータセット）が継続的に保持されなくなった場合、ファイルを特定する過程において、フォルダ日時が上位であれば、先に絞り込みが行われ、無駄な選定処理の発生を防げる。性能要件がない場合、フォルダ“Daytime”２１１とフォルダ“Segment”２１２のどちらが上位でも差し支えない。 The hierarchical relationship between the folder "Daytime" 211 and the folder "Segment" 212 may be reversed, but if the file (sensor data set) is not continuously retained due to the problem of sensor life, etc., the file In the process of specifying the folder, if the folder date and time is higher, the narrowing down is performed first, and unnecessary selection processing can be prevented. If there is no performance requirement, either the folder "Daytime" 211 or the folder "Segment" 212 may be higher.

また、図２は、本実施例で行われる処理の一例の流れの概要も示す。或るセンサ２０１からのデータセットが、リダイレクトサーバ９経由で、ファイル２１１として、当該或るセンサ２０１が配置されている地域に対応したユーザに関するボリューム１０３に、アップロード（送信）される（Ｓ１））。当該ファイル２１１のアップロード先は、当該或るセンサ２０１に関する測定日時及び測定位置に対応したフォルダ“Segment”２１２である。当該アップロードに伴い、アップロード先のフォルダ“Segment”２１２に対応したセグメント２０２についての書込み頻度が、当該セグメント２０２を含む地域に対応したユーザに関する通知条件を満たす場合、当該セグメント２０２を、管理ノード１３が検出する（Ｓ２）。管理ノード１３は、必要に応じて、当該検出されたセグメント２０２を含んだ地域に対応したユーザのアプリケーションサーバ１０に、通知メッセージを送信し（Ｓ３）、且つ、当該アップロード先のボリューム１０３のスケールリングを、ストレージシステム（例えば、ボリューム１０３の基である少なくとも１つのストレージノード１４）へ要求する（Ｓ４）。なお、アプリケーションサーバ１０は、ユーザ端末１１からの表示操作に際して、取消しの要求を受け付けると、管理ノード１３に、上記のスケーリング（スケールアウトもしくはスケールイン）の取消しの要求を送信する。管理ノード１３は、その取消しの要求に応答して、Ｓ４で要求したスケーリングの取消しを、ストレージシステムに要求する。 FIG. 2 also shows an outline of the flow of an example of the processing performed in this embodiment. The data set from the sensor 201 is uploaded (transmitted) as a file 211 to the volume 103 for the user corresponding to the area where the sensor 201 is located (S1) via the redirect server 9. .. The upload destination of the file 211 is the folder “Segment” 212 corresponding to the measurement date and time and the measurement position of the sensor 201. When the write frequency for the segment 202 corresponding to the upload destination folder "Segment" 212 satisfies the notification condition for the user corresponding to the area including the segment 202, the management node 13 assigns the segment 202 to the upload. Detect (S2). If necessary, the management node 13 sends a notification message to the application server 10 of the user corresponding to the area including the detected segment 202 (S3), and scales the volume 103 of the upload destination. Is requested to the storage system (for example, at least one storage node 14 which is the basis of the volume 103) (S4). When the application server 10 receives the cancellation request during the display operation from the user terminal 11, the application server 10 transmits the above-mentioned scaling (scale-out or scale-in) cancellation request to the management node 13. In response to the cancellation request, the management node 13 requests the storage system to cancel the scaling requested in S4.

以上で、ボリューム１０３に対するファイル（センサデータセット）の置き方について説明した。 The method of placing the file (sensor data set) on the volume 103 has been described above.

図３は、センサ２０１の設置位置と、セグメント２０２と、地名で代表される地域３０３との対応関係の一例を示している。 FIG. 3 shows an example of the correspondence between the installation position of the sensor 201, the segment 202, and the area 303 represented by the place name.

本実施例では、複数のユーザに使用される多数のセンサ２０１が広範囲に設置される。さらに、各センサ２０１は、或るユーザの所有物であっても良いし、それに代えて、第三者が、地域横断的に提供するセンサであっても良い。或るユーザが或る地域３０３についてのセンサデータセットを使用する際、当該地域３０３に属するセンサ２０１に絞り込んだセンサデータセットにアクセスする必要がある。 In this embodiment, a large number of sensors 201 used by a plurality of users are widely installed. Further, each sensor 201 may be the property of a certain user, or may be a sensor provided by a third party across the region. When a user uses a sensor data set for a certain area 303, it is necessary to access the sensor data set narrowed down to the sensor 201 belonging to the area 303.

図３によれば、緯度と経度から定義される二次元平面を基に、模式的に、地域３０３とセグメント２０２の関連付けが行われる。例えば、地域３０３を内包する矩形範囲３０２（破線枠の範囲）に対して、その矩形範囲３０２に重なる（例えばその矩形範囲３０２（又は地域３０３）を構成する）１以上のセグメント２０２が定義される。従って、地域３０３に関わるセグメント２０２は、矩形範囲３０２に重なる全ての又は一部のセグメント２０２（例えば、地域３０３との重複部分の面積がセグメント２０２の面積の所定割合以上であるセグメント２０２）である。セグメント２０２と地域３０３の対応関係は、１：１、１：多、多：１及び多：多のいずれでも良い。セグメント２０２は、上述のフォルダ“Segment”２１２に対応付くので、当該セグメント２０２に対応するフォルダ“Segment”２１２から、当該セグメント２０２に設置されているセンサ２０１のセンサデータセットを取り出すことができる。 According to FIG. 3, the region 303 and the segment 202 are schematically associated with each other based on the two-dimensional plane defined from the latitude and longitude. For example, for a rectangular range 302 (range of a broken line frame) including a region 303, one or more segments 202 overlapping the rectangular range 302 (for example, forming the rectangular range 302 (or region 303)) are defined. .. Therefore, the segment 202 related to the region 303 is all or part of the segment 202 that overlaps the rectangular range 302 (for example, the segment 202 in which the area of the overlapping portion with the region 303 is equal to or larger than a predetermined ratio of the area of the segment 202). .. The correspondence between the segment 202 and the region 303 may be 1: 1, 1: many, many: 1 or many: many. Since the segment 202 corresponds to the above-mentioned folder “Segment” 212, the sensor data set of the sensor 201 installed in the segment 202 can be taken out from the folder “Segment” 212 corresponding to the segment 202.

また、緯度と経度で表現される２次元位置座標系上のセンサ２０１の位置（測定位置）が、複数の位置座標（頂点）で指定される折れ線として表現される地域３０３に包含されているか否かの判定の方法としては、OpenGLのセレクション機能に従う方法のような既知の方法を採用できる。 Further, whether or not the position (measurement position) of the sensor 201 on the two-dimensional position coordinate system represented by latitude and longitude is included in the area 303 represented as a broken line designated by a plurality of position coordinates (vertices). As a method of determining whether or not, a known method such as a method according to the selection function of OpenGL can be adopted.

図４及び図５は、管理ＤＢ４に含まれる管理テーブルの構成を示す。 4 and 5 show the configuration of the management table included in the management DB 4.

地域プロパティ管理テーブル４０１は、地域プロパティに関する情報を保持する。例えば、地域プロパティ管理テーブル４０１は、カラム「地域ＩＤ」、「地域境界調整」及び「地域面積」を有する。つまり、地域プロパティ管理テーブル４０１は、地域毎に、地域ＩＤを格納し、且つ、地域境界調整及び地域面積といった地域プロパティを示す情報を保持する。 The regional property management table 401 holds information about regional properties. For example, the regional property management table 401 has columns "regional ID", "regional boundary adjustment" and "regional area". That is, the area property management table 401 stores the area ID for each area, and also holds the information indicating the area property such as the area boundary adjustment and the area area.

カラム「地域ＩＤ」は、地名に対応する重複のない地域ＩＤを保持する。例えば、地域ＩＤとして、日本の国土地理院が公開する地図データで使用されている識別番号が使用されても良い。 The column "region ID" holds a unique region ID corresponding to the place name. For example, as the area ID, the identification number used in the map data published by the Geospatial Information Authority of Japan may be used.

カラム「地域境界調整」は、地域の境界線を定義する境界線情報として、境界線を折れ線表現した場合の頂点の数と座標のリストとを保持する。境界線情報は、日本の国土地理院が公開する地図データで使用されている座標情報等を含んで良い。 The column "Regional Boundary Adjustment" holds a list of the number of vertices and coordinates when the boundary line is expressed as a broken line as the boundary line information that defines the boundary line of the region. The boundary line information may include coordinate information and the like used in the map data published by the Geospatial Information Authority of Japan.

カラム「地域面積」は、地域の面積を保持する。この地域の面積は、例えば、数１のような式を用いて、地域の頂点座標を基に求めても良い。

Figure 0007048402000001
The column "regional area" holds the area of the region. The area of this area may be obtained based on the coordinates of the vertices of the area by using, for example, an equation such as Equation 1.
Figure 0007048402000001

図４の地域関連管理テーブル４０２は、地域プロパティに属する情報以外の、地域に関する情報を保持する。例えば、地域関連管理テーブル４０２は、カラム「地域ＩＤ」、「地域名」及び「ユーザＩＤ」を有する。つまり、地域関連管理テーブル４０２は、地域毎に、地域ＩＤを格納し、且つ、地域名及びユーザＩＤといった情報を保持する。 The area-related management table 402 of FIG. 4 holds information about the area other than the information belonging to the area property. For example, the region-related management table 402 has columns "region ID", "region name", and "user ID". That is, the area-related management table 402 stores the area ID for each area and holds information such as the area name and the user ID.

カラム「地域ＩＤ」は、前述の地域ＩＤを保持する。カラム「地域名」は、地域の地名を示す情報を保持する。カラム「ユーザＩＤ」は、地域を扱うユーザのユーザＩＤを保持する。 The column "region ID" holds the above-mentioned region ID. The column "region name" holds information indicating the place name of the region. The column "user ID" holds the user ID of the user who handles the area.

図５のユーザ管理テーブル５０１は、ユーザに関する情報を保持する。例えば、ユーザ管理テーブル５０１は、カラム「ユーザＩＤ」、「ユーザ名」及び「通知条件」を有する。つまり、ユーザ管理テーブル５０１は、ユーザ（例えば、データレイクサービスを利用する顧客）毎に、ユーザＩＤ、ユーザ名及び通知条件といった情報を保持する。 The user management table 501 of FIG. 5 holds information about the user. For example, the user management table 501 has columns "user ID", "user name" and "notification condition". That is, the user management table 501 holds information such as a user ID, a user name, and notification conditions for each user (for example, a customer who uses the data lake service).

カラム「ユーザＩＤ」は、ユーザＩＤを保持する。カラム「ユーザ名」は、ユーザの名称を保持する。カラム「通知条件」は、ユーザの入力した通知条件を保持する。通知条件の詳細は後述する。 The column "user ID" holds the user ID. The column "user name" holds the name of the user. The column "Notification condition" holds the notification condition entered by the user. Details of the notification conditions will be described later.

統計管理テーブル５０２は、各セグメントについて書込み頻度の統計情報を保持する。例えば、統計管理テーブル５０２は、カラム「セグメントＩＤ」、「フォルダパス」、「長期の書込み頻度」及び「短期の書込み頻度」を有する。つまり、統計管理テーブル５０２は、セグメント毎に、地域ＩＤを格納し、且つ、地域名及びユーザＩＤといった情報を保持する。 The statistical management table 502 holds the write frequency statistical information for each segment. For example, the statistical management table 502 has columns "segment ID", "folder path", "long-term write frequency", and "short-term write frequency". That is, the statistical management table 502 stores the area ID for each segment, and also holds information such as the area name and the user ID.

カラム「セグメントＩＤ」は、セグメントのＩＤを保持する。セグメントＩＤは、例えば、数２のような式を用いて、センサの測定位置（例えば、緯度と経度）を基に、決定されても良い。これにより、セグメントのＩＤから、センサデータセットを送ってきたセンサの設置位置（測定位置）の範囲が計算できる。

Figure 0007048402000002
The column "segment ID" holds the ID of the segment. The segment ID may be determined based on the measurement position (for example, latitude and longitude) of the sensor by using an equation such as Equation 2. As a result, the range of the installation position (measurement position) of the sensor that sent the sensor data set can be calculated from the segment ID.
Figure 0007048402000002

カラム「フォルダパス」は、対応するフォルダ“Segment”へのパスのパス名を保持する。 The column "folder path" holds the path name of the path to the corresponding folder "Segment".

カラム「長期の書込み頻度」は、比較的長い期間での書込み頻度である長期の書込み頻度（例えば、対応するフォルダ“Segment”に対する書き込みが発生した１週間当たりの移動平均を１日当たりにした値のような平均書込み頻度）を保持する。カラム「長期の書込み頻度」は、比較的短い期間での書込み頻度である短期の書込み頻度（例えば、対応するフォルダ“Segment”に対する書き込みが発生した１日当たりの移動平均値のような平均書込み頻度）を保持する。「比較的長い期間」と「比較的短い期間」の各々の期間は、一方が他方よりも長い又は短いといった期間である。 The column "Long-term write frequency" is the value of the long-term write frequency (for example, the moving average per week when writes to the corresponding folder "Segment" occur, which is the write frequency over a relatively long period, per day. Average write frequency). The column "Long-term write frequency" is a short-term write frequency that is a write frequency in a relatively short period (for example, an average write frequency such as a moving average value per day when a write to the corresponding folder "Segment" occurs). To hold. Each of the "relatively long period" and "relatively short period" is a period in which one is longer or shorter than the other.

以上、管理ＤＢ４が有する管理テーブルを説明した。 The management table of the management DB 4 has been described above.

図６は、センサ２０１の内部構成を示す。 FIG. 6 shows the internal configuration of the sensor 201.

センサ２０１は、１以上のセンサモジュール８０６を含んだデバイスである。例えば、センサ２０１は、マイクロコントローラ８０２、センサネットワークインターフェース８０３、メモリ８０４、リアルタイムクロックモジュール８０５、１以上のセンサモジュール８０６、及び、それら要素間のデータ通信を仲介するデータパス８０１を有する。 Sensor 201 is a device that includes one or more sensor modules 806. For example, the sensor 201 has a microcontroller 802, a sensor network interface 803, a memory 804, a real-time clock module 805, one or more sensor modules 806, and a data path 801 that mediates data communication between these elements.

センサネットワークインターフェース８０３は、インターフェース部の一例であり、例えば、イーサネットプロトコル（イーサネットは登録商標）又はLPWAを介してデータ送受を行うためのNIC（Network Interface Card）モジュールである。センサネットワークインターフェース８０３経由で、センサネットワーク２へ接続することができる。 The sensor network interface 803 is an example of an interface unit, and is, for example, a NIC (Network Interface Card) module for transmitting and receiving data via an Ethernet protocol (Ethernet is a registered trademark) or LPWA. It can be connected to the sensor network 2 via the sensor network interface 803.

メモリ８０４は、記憶部（例えばメモリ部)の一例である。なお、メモリ８０４は、このセンサ２０１の動作のための１以上のプログラム（マイクロコントローラ８０２（プロセッサ部の一例）によって実行される１以上のプログラム）として、例えば、センサ測定プログラム８１０と、センサ転送プログラム８１１とを格納する。さらに、メモリ８０４は、データ保持領域として、センサバッファ８１２を有する。また、メモリ８０４は、センサ位置情報８１３を格納する。センサ位置情報８１３は、センサ２０１の設置位置を示す位置情報（例えば緯度及び軽度）である。センサ２０１の設置作業時に、センサ２０１の設置位置を示すセンサ位置情報８１３が記録される。センサ位置情報８１３が、センサ２０１からのセンサデータセットに関連付けられている。また、センサ２０１が、GPS（Global Positioning System）装置のような位置検出機能を有する場合、当該機能により検出された位置を示す情報がセンサ位置情報８１３として記録されても良い。なお、個々のプログラムの説明は、後述する。 The memory 804 is an example of a storage unit (for example, a memory unit). The memory 804 is, for example, a sensor measurement program 810 and a sensor transfer program as one or more programs (one or more programs executed by a microcontroller 802 (an example of a processor unit)) for the operation of the sensor 201. Stores 811 and. Further, the memory 804 has a sensor buffer 812 as a data holding area. Further, the memory 804 stores the sensor position information 813. The sensor position information 813 is position information (for example, latitude and mild) indicating the installation position of the sensor 201. During the installation work of the sensor 201, the sensor position information 813 indicating the installation position of the sensor 201 is recorded. Sensor position information 813 is associated with the sensor data set from sensor 201. Further, when the sensor 201 has a position detection function such as a GPS (Global Positioning System) device, information indicating the position detected by the function may be recorded as the sensor position information 813. The explanation of each program will be described later.

リアルタイムクロックモジュール８０５は、現在日時を出力する時計モジュールで良い。 The real-time clock module 805 may be a clock module that outputs the current date and time.

１以上のセンサモジュール８０６の各々は、用途に応じて採用されたセンサモジュールで良い。例えば、センサモジュール８０６ａは、振動値を測定するモジュールで良く、センサモジュール８０６ｂは、加速度を測定するモジュールで良い。 Each of the one or more sensor modules 806 may be a sensor module adopted according to the application. For example, the sensor module 806a may be a module for measuring the vibration value, and the sensor module 806b may be a module for measuring the acceleration.

図７は、リダイレクトサーバ９の内部構成を示す。 FIG. 7 shows the internal configuration of the redirect server 9.

リダイレクトサーバ９は、ＭＰＵ９０２、メモリ９０３、ネットワークインターフェース９０４、及び、それら要素間のデータ通信を仲介するデータパス９０１を有する。 The redirect server 9 has an MPU 902, a memory 903, a network interface 904, and a data path 901 that mediates data communication between these elements.

ＭＰＵ９０２は、プロセッサ部の一例であり、マイクロプロセッサである。メモリ９０３は、記憶部（例えばメモリ部）の一例である。メモリ９０３は、リダイレクトサーバ９の動作のための１以上のプログラム（ＭＰＵ９０２に実行される１以上のプログラム）として、データ変換プログラム９１１と、データ記録プログラム９１２と、データレイクアクセスプログラム９１３とを格納する。また、メモリ９０３は、データ保持領域として、検出データバッファ９１４を有する。なお、個々のプログラムの説明は、後述する。 The MPU 902 is an example of a processor unit and is a microprocessor. The memory 903 is an example of a storage unit (for example, a memory unit). The memory 903 stores a data conversion program 911, a data recording program 912, and a data lake access program 913 as one or more programs (one or more programs executed by the MPU 902) for the operation of the redirect server 9. .. Further, the memory 903 has a detection data buffer 914 as a data holding area. The explanation of each program will be described later.

ネットワークインターフェース９０４は、インターフェース部の一例であり、例えば、イーサネットプロトコルを扱えるNICモジュールである。これにより、センサネットワーク２と、データレイクネットワーク１とに接続できる。 The network interface 904 is an example of an interface unit, and is, for example, a NIC module that can handle an Ethernet protocol. As a result, the sensor network 2 and the data lake network 1 can be connected.

図８は、アプリケーションサーバ１０の内部構成を示す。 FIG. 8 shows the internal configuration of the application server 10.

アプリケーションサーバ１０は、ＭＰＵ１００２、メモリ１００３、ネットワークインターフェース１００４、及び、それら要素間のデータ通信を仲介するデータパス１００１を有する。 The application server 10 has an MPU 1002, a memory 1003, a network interface 1004, and a data path 1001 that mediates data communication between these elements.

ＭＰＵ１００２は、プロセッサ部の一例であり、マイクロプロセッサである。メモリ１００３は、記憶部（例えばメモリ部）の一例である。メモリ１００３は、アプリケーションサーバ１０の動作のための１以上のプログラム（ＭＰＵ１００２に実行される１以上のプログラム）として、センサプログラム１０１０と、データレイクアクセスプログラム１０１１と、ユーザプログラム１０１２とを格納する。また、メモリ１００３は、データ保持領域として、監視データバッファ１０１３を有する。なお、個々のプログラムの説明は、後述する。 The MPU 1002 is an example of a processor unit and is a microprocessor. The memory 1003 is an example of a storage unit (for example, a memory unit). The memory 1003 stores the sensor program 1010, the data lake access program 1011 and the user program 1012 as one or more programs (one or more programs executed by the MPU 1002) for the operation of the application server 10. Further, the memory 1003 has a monitoring data buffer 1013 as a data holding area. The explanation of each program will be described later.

ネットワークインターフェース１００４は、インターフェース部の一例であり、イーサネットプロトコルを扱えるNICモジュールである。これにより、データレイクネットワーク１に接続できる。 The network interface 1004 is an example of an interface unit, and is a NIC module that can handle an Ethernet protocol. As a result, it is possible to connect to the data lake network 1.

図９は、ユーザ端末１１の内部構成を示す。 FIG. 9 shows the internal configuration of the user terminal 11.

ユーザ端末１１は、ＭＰＵ１１０２、ユーザインターフェース１１０３、メモリ１１０４、ネットワークインターフェース１１０５、及び、それら要素間のデータ通信を仲介するデータパス１１０１を有する。 The user terminal 11 has an MPU 1102, a user interface 1103, a memory 1104, a network interface 1105, and a data path 1101 that mediates data communication between these elements.

ＭＰＵ１１０２は、プロセッサ部の一例であり、マイクロプロセッサである。 The MPU 1102 is an example of a processor unit and is a microprocessor.

ユーザインターフェース１１０３は、表示デバイス１２への表示データ（表示用情報）と、入力デバイス１１０６からの入力データを、それぞれとデータ送受するためのインタフェースモジュールである。入力デバイス１１０６は、キーボードやポインティングデバイスで良い。表示デバイス１２と入力デバイス１１０６が一体となったタッチパネルディスプレイデバイスが採用されても良い。 The user interface 1103 is an interface module for transmitting and receiving display data (display information) to the display device 12 and input data from the input device 1106, respectively. The input device 1106 may be a keyboard or a pointing device. A touch panel display device in which the display device 12 and the input device 1106 are integrated may be adopted.

メモリ１１０４は、記憶部（例えばメモリ部）の一例である。メモリ１１０４は、ユーザ端末１１の動作のための１以上のプログラム（ＭＰＵ１１０２に実行される１以上のプログラム）として、ユーザ端末プログラム１１１１を格納する。なお、個々のプログラムの説明は、後述する。 The memory 1104 is an example of a storage unit (for example, a memory unit). The memory 1104 stores the user terminal program 1111 as one or more programs (one or more programs executed in the MPU 1102) for the operation of the user terminal 11. The explanation of each program will be described later.

ネットワークインターフェース１１０５は、インターフェース部の一例であり、イーサネットプロトコルを扱えるNICモジュールである。これにより、データレイクネットワーク１に接続できる。 The network interface 1105 is an example of an interface unit, and is a NIC module that can handle an Ethernet protocol. As a result, it is possible to connect to the data lake network 1.

図１０は、ユーザ端末１１の表示デバイス１２に表示されるセットアップ画面の一例を示す。 FIG. 10 shows an example of a setup screen displayed on the display device 12 of the user terminal 11.

セットアップ画面１２０１は、データレイクサービスシステム１０２における管理ノード１３からの通知を表示するユーザインターフェース画面（例えばGUI（Graphical User Interface））である。セットアップ画面１２０１は、ユーザ名１２０２、ユーザＩＤ１２０３、通知条件ＵＩ（User Interface）１２０４、通知メッセージ１２０６、ボタン「Cancel」１２０７、ボタン「OK」１２０８、及び、ボタン「Exit」１２０９を表示する。セットアップ画面１２０１の表示は、管理ノード１３からアプリケーションサーバ１０経由して受信した表示データに従う内容であり、ユーザプログラム１０１２（図８）及びユーザ端末プログラム１１１１（図９）により制御される。表示データは、通知の表示用のデータを含む。 The setup screen 1201 is a user interface screen (for example, GUI (Graphical User Interface)) that displays a notification from the management node 13 in the data lake service system 102. The setup screen 1201 displays a user name 1202, a user ID 1203, a notification condition UI (User Interface) 1204, a notification message 1206, a button "Cancel" 1207, a button "OK" 1208, and a button "Exit" 1209. The display of the setup screen 1201 follows the display data received from the management node 13 via the application server 10, and is controlled by the user program 1012 (FIG. 8) and the user terminal program 1111 (FIG. 9). The display data includes data for displaying the notification.

図１０の例では、通知条件ＵＩ１２０４及び通知メッセージ１２０６は、異常発生等の特定のイベントが検出された地域毎に表示される。通知メッセージ１２０６は、通知条件が満たされたときに発行された通知の内容を示すメッセージである。通知条件ＵＩ１２０４は、当該通知に関わる地域についての現在の通知条件を表示するＵＩである。当該ＵＩ１２０４に関して所定の操作がされると、通知条件の指定のためのＵＩ（例えばプルダウンメニュー）１２０５が表示される。なお、通知条件として、例えば、“高頻度”や“低頻度”がある。ボタン「Cancel」１２０７は、通知の内容に示される動作の取消しを要求するためのボタンである。当該動作としては、ユーザに対応したボリューム１０３に関してのスケーリング（スケールアウト又はスケールイン）がある。なお、通知メッセージ１２０６が、取消し可能な動作に関する通知を含まない場合、ボタン「Cancel」１２０７は、非表示（又は無効）とされる。 In the example of FIG. 10, the notification condition UI 1204 and the notification message 1206 are displayed for each area where a specific event such as an abnormality has been detected. The notification message 1206 is a message indicating the content of the notification issued when the notification condition is satisfied. The notification condition UI 1204 is a UI that displays the current notification conditions for the area related to the notification. When a predetermined operation is performed with respect to the UI 1204, a UI (for example, a pull-down menu) 1205 for specifying notification conditions is displayed. The notification conditions include, for example, "high frequency" and "low frequency". The button "Cancel" 1207 is a button for requesting cancellation of the operation indicated in the content of the notification. The operation includes scaling (scale-out or scale-in) with respect to the volume 103 corresponding to the user. If the notification message 1206 does not include a notification regarding a cancelable operation, the button "Cancel" 1207 is hidden (or invalid).

ボタン「OK」１２０８は、指定した通知条件をデータレイクサービスシステム１０２へ送信するためのボタンである。ボタン「Exit」１２０９は、ユーザ端末プログラム１１１１を終了させるためのボタンである。 The button "OK" 1208 is a button for transmitting the specified notification condition to the data lake service system 102. The button "Exit" 1209 is a button for terminating the user terminal program 1111.

図１１は、管理ノード１３の内部構成を示す。 FIG. 11 shows the internal configuration of the management node 13.

管理ノード１３は、ＭＰＵ１３０２、メモリ１３０３、ネットワークインターフェース１３０４、及び、それら要素間のデータ通信を仲介するデータパス１３０１を有する。 The management node 13 has an MPU 1302, a memory 1303, a network interface 1304, and a data path 1301 that mediates data communication between these elements.

ＭＰＵ１３０２は、プロセッサ部の一例であり、マイクロプロセッサである。 The MPU 1302 is an example of a processor unit and is a microprocessor.

メモリ１３０３は、記憶部（例えばメモリ部）の一例である。メモリ１３０３は、管理ノード１３の動作のための１以上のプログラム（ＭＰＵ１３０２に実行される１以上のプログラム）として、ユーザサービスプログラム１３１０と、監視プログラム１３１１と、ファイルアクセスプログラム１３１２と、スケーリングプログラム１３１３とを格納する。ユーザサービスプログラム１３１０、監視プログラム１３１１、ファイルアクセスプログラム１３１２、及び、スケーリングプログラム１３１３がＭＰＵ１３０２に実行されることで、ユーザサービス部、監視部、ファイルアクセス部、及び、スケーリング部といった機能が実現される。なお、個々のプログラムの説明は、後述する。 The memory 1303 is an example of a storage unit (for example, a memory unit). The memory 1303 includes a user service program 1310, a monitoring program 1311, a file access program 1312, and a scaling program 1313 as one or more programs (one or more programs executed by the MPU 1302) for the operation of the management node 13. To store. By executing the user service program 1310, the monitoring program 1311, the file access program 1312, and the scaling program 1313 in the MPU 1302, functions such as a user service unit, a monitoring unit, a file access unit, and a scaling unit are realized. The explanation of each program will be described later.

管理ＤＢ４は、メモリ１３０３（又は図示しないＰＤＥＶ部）に格納される。管理ＤＢ４に含まれる管理テーブルの詳細は、図４と図５を参照して、説明済みである。 The management DB 4 is stored in a memory 1303 (or a PDEV unit (not shown)). The details of the management table included in the management DB 4 have already been described with reference to FIGS. 4 and 5.

ネットワークインターフェース１３０４は、インターフェース部の一例であり、イーサネットプロトコルを扱えるNICモジュールである。これにより、データレイクネットワーク１に接続できる。 The network interface 1304 is an example of an interface unit, and is a NIC module that can handle an Ethernet protocol. As a result, it is possible to connect to the data lake network 1.

図１２は、ストレージノード１４の内部構成を示す。 FIG. 12 shows the internal configuration of the storage node 14.

ストレージノード１４は、ＭＰＵ１４０２、メモリ１４０３、ＰＤＥＶ部１５、ネットワークインターフェース１４０５、及び、それら要素間のデータ通信を仲介するデータパス１４０１を有する。 The storage node 14 has a MPU 1402, a memory 1403, a PDEV unit 15, a network interface 1405, and a data path 1401 that mediates data communication between these elements.

ＭＰＵ１４０２は、プロセッサ部の一例であり、マイクロプロセッサである。 The MPU 1402 is an example of a processor unit and is a microprocessor.

メモリ１４０３（メモリ部の一例）及びＰＤＥＶ部１５は、記憶部の一例である。メモリ１４０３は、ストレージノード１４の動作のための１以上のプログラム（ＭＰＵ１４０２に実行される１以上のプログラム）として、データアクセスプログラム１４１０と、ノード増設プログラム１４１１と、ノード減設プログラム１４１２とを格納する。なお、個々のプログラムの説明は、後述する。ＰＤＥＶ部１５は、センサデータセット（ファイル）を保持するための１以上のＰＤＥＶである。 The memory 1403 (an example of the memory unit) and the PDEV unit 15 are examples of the storage unit. The memory 1403 stores the data access program 1410, the node expansion program 1411, and the node reduction program 1412 as one or more programs (one or more programs executed by the MPU 1402) for the operation of the storage node 14. .. The explanation of each program will be described later. The PDEV unit 15 is one or more PDEVs for holding a sensor data set (file).

ネットワークインターフェース１４０５は、インターフェース部の一例であり、イーサネットプロトコルを扱えるNICモジュールである。これにより、データレイクネットワーク１に接続できる。 The network interface 1405 is an example of an interface unit, and is a NIC module that can handle an Ethernet protocol. As a result, it is possible to connect to the data lake network 1.

以上で、システム構成、並びに、各装置の内部構成を説明した。以下、各プログラムの動作を、説明する。 The system configuration and the internal configuration of each device have been described above. The operation of each program will be described below.

まず、センサ２０１における各プログラムの動作を説明する。 First, the operation of each program in the sensor 201 will be described.

センサ測定プログラム８１０は、１以上のセンサモジュール８０６から、測定値を取得し、リアルタイムクロックモジュール８０５から測定日時（現在日時）を取得し、測定値及び測定日時を含んだセンサデータセットをセンサバッファ８１２に保存する。 The sensor measurement program 810 acquires the measured value from one or more sensor modules 806, acquires the measurement date and time (current date and time) from the real-time clock module 805, and stores the sensor data set including the measured value and the measurement date and time in the sensor buffer 812. Save to.

図１３は、センサ転送プログラム８１１の動作フローを示す。 FIG. 13 shows the operation flow of the sensor transfer program 811.

Ｓ１６０１では、センサ転送プログラム８１１は、センサバッファ８１２に保存されているセンサデータ量（センサデータセットの総量）の変化量を算出する。 In S1601, the sensor transfer program 811 calculates the amount of change in the amount of sensor data (total amount of the sensor data set) stored in the sensor buffer 812.

Ｓ１６０２では、センサ転送プログラム８１１は、算出された変化量が、既定の条件を満たすが判定する。Ｓ１６０２の判定結果が真であれば（Ｓ１６０２：ＹＥＳ）、Ｓ１６０４が実行され、そうでなければ（Ｓ１６０２：ＮＯ）、Ｓ１６０３が実行される。「既定の条件」とは、例えば、変化量が既定値以上で良い。 In S1602, the sensor transfer program 811 determines that the calculated change amount satisfies the predetermined condition. If the determination result of S1602 is true (S1602: YES), S1604 is executed, and if not (S1602: NO), S1603 is executed. The "default condition" may be, for example, a change amount of a default value or more.

Ｓ１６０３では、センサ転送プログラム８１１は、リアルタイムクロックモジュール８０５から現在日時を取得し、取得した現在日時が既定の定期報告日時か判定する。Ｓ１６０３の判定結果が真であれば（Ｓ１６０３：ＹＥＳ）、Ｓ１６０４が実行され、そうでなければ（Ｓ１６０３：ＮＯ）、動作が終了する。 In S1603, the sensor transfer program 811 acquires the current date and time from the real-time clock module 805, and determines whether the acquired current date and time is the default periodic report date and time. If the determination result of S1603 is true (S1603: YES), S1604 is executed, and if not (S1603: NO), the operation ends.

Ｓ１６０４では、センサ転送プログラム８１１は、センサネットワークインターフェース８０３を介して、リダイレクトサーバ９へ、センサバッファ８１２が保持するセンサデータセット（例えば、測定値、測定日時、測定位置（センサ位置情報８１３が示す位置）を含んだデータセット）を、送信する。 In S1604, the sensor transfer program 811 sends the sensor data set held by the sensor buffer 812 (for example, the measured value, the measurement date and time, and the measurement position (position indicated by the sensor position information 813) to the redirect server 9 via the sensor network interface 803. ) Is included in the data set).

次に、リダイレクトサーバ９における各プログラムの動作を説明する。 Next, the operation of each program on the redirect server 9 will be described.

データ変換プログラム９１１は、センサネットワークインターフェース１１０５を介して、センサ２０１から、センサデータセットを受信する。データ変換プログラム９１１は、受信したセンサデータセットから、既定の検出計算を行い、測定値（例えば検出計算後の値）、検出日時（例えば測定日時）、及び測定位置等を含んだセンサデータセットとしての検出結果を、検出データバッファ９１４に保存する。なお、この検出計算は、センサ２０１から送られてくるデータセット中の測定値をユーザの仕様に変換する計算で良い。例えば、検出計算として、フーリエ変換計算によるスペクトラムデータへの変換、数値の大小比較による状態値への変換、複数のセンサの測定値の相関を取る計算等が採用されて良い。 The data conversion program 911 receives the sensor data set from the sensor 201 via the sensor network interface 1105. The data conversion program 911 performs a default detection calculation from the received sensor data set, and as a sensor data set including the measured value (for example, the value after the detection calculation), the detection date and time (for example, the measurement date and time), the measurement position, and the like. The detection result of is saved in the detection data buffer 914. Note that this detection calculation may be a calculation that converts the measured values in the data set sent from the sensor 201 into the user's specifications. For example, as the detection calculation, conversion to spectrum data by Fourier transform calculation, conversion to state value by comparison of numerical value, calculation to correlate measured values of a plurality of sensors, and the like may be adopted.

データ記録プログラム９１２は、検出データバッファ９１４が保持する検出結果（測定日時、測定位置、検出計算後の値などを含んだセンサデータセット）を、データレイクアクセスプログラム９１３経由で、データレイクサービスシステム１０２のボリューム１０３に記録する。 The data recording program 912 transfers the detection result (sensor data set including the measurement date and time, the measurement position, the value after the detection calculation, etc.) held by the detection data buffer 914 to the data lake service system 102 via the data lake access program 913. Record on the volume 103 of.

データレイクアクセスプログラム９１３は、データ記録プログラム９１２から受け取ったセンサデータセットを、管理ノード１３のファイルアクセスプログラム１３１２を介して、既定のパス構造で、ボリューム１０３に保存する。この既定のパス構造は、図２で説明済みである。 The data lake access program 913 stores the sensor data set received from the data recording program 912 in the volume 103 with a default path structure via the file access program 1312 of the management node 13. This default path structure has already been described in FIG.

次に、アプリケーションサーバ１０の各プログラムの動作を説明する。 Next, the operation of each program of the application server 10 will be described.

センサプログラム１０１０は、データレイクアクセスプログラム１０１１を介して、データレイクサービスシステム１０２のボリューム１０３から、現在日時から過去既定時間の範囲の測定日時で、既定の地域の測定結果としてのセンサデータセット（ファイル）を取得し、取得したセンサデータセットを監視データバッファ１０１３へ保存する。 The sensor program 1010 is a sensor data set (file) as a measurement result of a default area with a measurement date and time in the range from the current date and time to the past predetermined time from the volume 103 of the data lake service system 102 via the data lake access program 1011. ) Is acquired, and the acquired sensor data set is saved in the monitoring data buffer 1013.

データレイクアクセスプログラム１０１１は、センサプログラム１０１０から受け取ったセンサデータセット中の測定日時と測定位置を基に、ボリューム１０３から、当てはまるセンサデータセット（例えば、当該測定日時と測定位置とに対応したフォルダ内のデータセット）を取得し、取得したセンサデータセットを監視データバッファ１０１３に保存する。 The data lake access program 1011 is based on the measurement date and time and the measurement position in the sensor data set received from the sensor program 1010, and is in the folder corresponding to the applicable sensor data set (for example, the measurement date and time and the measurement position) from the volume 103. Data set) is acquired, and the acquired sensor data set is stored in the monitoring data buffer 1013.

ユーザプログラム１０１２は、ユーザ端末１１から、接続要求があれば、監視データバッファ１０１３が保持するセンサデータセットの少なくとも一部を、ユーザ端末１１へ返す。 The user program 1012 returns at least a part of the sensor data set held by the monitoring data buffer 1013 to the user terminal 11 if there is a connection request from the user terminal 11.

次に、ユーザ端末１１の各プログラムの動作を説明する。 Next, the operation of each program of the user terminal 11 will be described.

図１４は、ユーザ端末プログラム１１１１の動作フローを示す。 FIG. 14 shows an operation flow of the user terminal program 1111.

Ｓ２３０１では、ユーザ端末プログラム１１１１は、入力デバイス１１０６による操作者からの入力操作で、接続先を取得し、取得した接続先に接続要求を送信する。ここで、本実施例での接続先候補として、アプリケーションサーバ１０と管理ノード１３の２つがあるが、管理ノード１３との接続を主に説明する。 In S2301, the user terminal program 1111 acquires a connection destination by an input operation from the operator by the input device 1106, and transmits a connection request to the acquired connection destination. Here, there are two connection destination candidates in this embodiment, the application server 10 and the management node 13, and the connection with the management node 13 will be mainly described.

Ｓ２３０２では、ユーザ端末プログラム１１１１は、接続先（管理ノード１３）から送られてくる表示データを、表示デバイス１２に表示する。 In S2302, the user terminal program 1111 displays the display data sent from the connection destination (management node 13) on the display device 12.

Ｓ２３０３では、ユーザ端末プログラム１１１１は、入力デバイス１１０６による操作者の入力操作の内容を、接続先（管理ノード１３）に送信する。 In S2303, the user terminal program 1111 transmits the content of the input operation of the operator by the input device 1106 to the connection destination (management node 13).

Ｓ２３０４では、ユーザ端末プログラム１１１１は、ボタン「Exit」１２０９が選択されたかの判定を行う。選択されたならば（Ｓ２３０４：ＹＥＳ）、処理が終了し、そうでなければ（Ｓ２３０４：ＮＯ）、処理がＳ２３０２に戻る。 In S2304, the user terminal program 1111 determines whether or not the button "Exit" 1209 is selected. If selected (S2304: YES), the process ends, otherwise (S2304: NO), the process returns to S2302.

次に、管理ノード１３の各プログラムを説明する。 Next, each program of the management node 13 will be described.

図１５は、ユーザサービスプログラム１３１０の動作フローを示す。 FIG. 15 shows the operation flow of the user service program 1310.

Ｓ２４０１では、ユーザサービスプログラム１３１０は、ユーザ端末１１から接続要求があれば、セットアップ画面１２０１の表示データを送信する。 In S2401, the user service program 1310 transmits the display data of the setup screen 1201 if there is a connection request from the user terminal 11.

Ｓ２４０２では、ユーザサービスプログラム１３１０は、ユーザ端末１１からの操作内容が終了かを判定する。終了であれば（Ｓ２４０２：ＹＥＳ）、処理が終了し、そうでなければ（Ｓ２４０２：ＮＯ）、処理がＳ２４０３に進む。 In S2402, the user service program 1310 determines whether the operation content from the user terminal 11 is completed. If it is finished (S2402: YES), the process is finished, otherwise (S2402: NO), the process proceeds to S2403.

Ｓ２４０３では、ユーザサービスプログラム１３１０は、ユーザ端末１１からの操作内容がボタン「Cancel」１２０７の選択（押下）かを判定する。そうであれば（Ｓ２４０３：ＹＥＳ）、処理がＳ２４０６に進み、そうでなければ（Ｓ２４０３：ＮＯ）、処理がＳ２４０４に進む。 In S2403, the user service program 1310 determines whether the operation content from the user terminal 11 is the selection (pressing) of the button "Cancel" 1207. If so (S2403: YES), the process proceeds to S2406, otherwise (S2403: NO), the process proceeds to S2404.

Ｓ２４０６では、ユーザサービスプログラム１３１０は、管理ノード１３で実行されているスケーリング（スケールアウトもしくはスケールイン）の取消し要求を管理ノード１３に送信する。取消し要求は、スケーリングを止めて、ボリューム１０３の基になるストレージノード１４の台数を元に戻す要求に相当する。 In S2406, the user service program 1310 sends a scaling (scale-out or scale-in) cancellation request executed on the management node 13 to the management node 13. The cancellation request corresponds to a request to stop scaling and restore the number of storage nodes 14 that are the basis of the volume 103.

Ｓ２４０４では、ユーザサービスプログラム１３１０は、ユーザ端末１１から、ユーザ管理テーブル５０１のレコードデータを受信して、当該レコードデータに従うレコードを、管理ＤＢ４におけるユーザ管理テーブル５０１へ登録する。 In S2404, the user service program 1310 receives the record data of the user management table 501 from the user terminal 11, and registers the record according to the record data in the user management table 501 in the management DB 4.

Ｓ２４０５では、ユーザサービスプログラム１３１０は、上記登録したレコードに従いセットアップ画面１２０１の表示内容を変更する更新後の表示データを、ユーザ端末１１へ送信する。 In S2405, the user service program 1310 transmits the updated display data for changing the display contents of the setup screen 1201 according to the registered record to the user terminal 11.

図１６は、監視プログラム１３１１の動作フローを示す。 FIG. 16 shows the operation flow of the monitoring program 1311.

Ｓ２５０１では、監視プログラム１３１１は、アクセス対象のファイルパス（ファイルアクセスプログラム１３１２からの引数としてのファイルパス）に関して、当該ファイルパスに従うアクセス先のセグメント（アクセス先のフォルダに対応したセグメント）についての長期の書込み頻度（ＦＬ）と短期の書込み頻度（ＦＳ）との差（絶対値）が既定値（Ｔｈ１）以上かの判定を行う。当該セグメントについての長期の書込み頻度と短期の書込み頻度は、統計管理テーブル５０２から特定される。既定値以上であれば（Ｓ２５０１：ＹＥＳ）、処理がＳ２５０２に進み、そうでなければ（Ｓ２５０１：ＮＯ）、処理が終了する。 In S2501, the monitoring program 1311 has a long-term access target segment (segment corresponding to the access destination folder) according to the access target file path (file path as an argument from the file access program 1312). It is determined whether the difference (absolute value) between the write frequency ( FL ) and the short-term write frequency ( FS ) is equal to or more than the default value (Th 1 ). The long-term write frequency and the short-term write frequency for the segment are specified from the statistical management table 502. If it is equal to or more than the default value (S2501: YES), the process proceeds to S2502, and if not (S2501: NO), the process ends.

Ｓ２５０２では、監視プログラム１３１１は、上記ファイルパスを基に、アクセス先のセグメントに対応したセグメントＩＤを統計管理テーブル５０２から抽出し、当該セグメントＩＤに対応した地域ＩＤについて、地域プロパティ管理テーブル４０１から、対象地域の緯度と経度の範囲を求める。監視プログラム１３１１は、地域プロパティ管理テーブル４０１から、上記の緯度と経度の範囲を持つ地域の地域面積を求める。監視プログラム１３１１は、地域関連管理テーブル４０２及びユーザ管理テーブル５０１から、上記の地域ＩＤに対応したユーザＩＤと通知条件を特定する。 In S2502, the monitoring program 1311 extracts the segment ID corresponding to the access destination segment from the statistical management table 502 based on the above file path, and obtains the regional ID corresponding to the segment ID from the regional property management table 401. Find the latitude and longitude range of the target area. The monitoring program 1311 obtains the regional area of the region having the above latitude and longitude ranges from the regional property management table 401. The monitoring program 1311 specifies the user ID corresponding to the above-mentioned area ID and the notification condition from the area-related management table 402 and the user management table 501.

Ｓ２５０３では、監視プログラム１３１１は、Ｓ２５０２で特定した通知条件に従う通知（通知メッセージ１２０６）を含む表示データを生成する。 In S2503, the monitoring program 1311 generates display data including a notification (notification message 1206) according to the notification condition specified in S2502.

Ｓ２５０４では、監視プログラム１３１１は、短期の書込み頻度が、長期の書込み頻度を上回まっているかを判定する。そうであれば（Ｓ２５０４：ＹＥＳ）、処理がＳ２５０５に進み、そうでなければ（Ｓ２５０４：ＮＯ）、処理がＳ２５０７に進む。 In S2504, the monitoring program 1311 determines whether the short-term write frequency exceeds the long-term write frequency. If so (S2504: YES), the process proceeds to S2505, otherwise (S2504: NO), the process proceeds to S2507.

Ｓ２５０５では、監視プログラム１３１１は、Ｓ２５０２で特定された通知条件が“高頻度”か判定する。そうであれば（Ｓ２５０５：ＹＥＳ）、処理がＳ２５０６に進み、そうでなければ（Ｓ２５０５：ＮＯ）、処理が終了する。 In S2505, the monitoring program 1311 determines whether the notification condition specified in S2502 is "high frequency". If so (S2505: YES), the process proceeds to S2506, otherwise (S2505: NO), the process ends.

Ｓ２５０６では、監視プログラム１３１１は、Ｓ２５０２で特定した地域面積と、２つの書込み頻度（ＦＬとＦＳ）と、Ｓ２５０２で特定したユーザに対応のボリューム１０３の基になっている現在のストレージノード数とを引数に持つ既定のスケール評価式に従い、増設するストレージノード数（或いは、増設後のストレージノード数）を算出し、管理ノード１３へ、当該算出したストレージノード数に従うスケールアウト要求を送信する。 In S2506 , the monitoring program 1311 is based on the area area specified in S2502 , the two write frequencies (FL and HS), and the current number of storage nodes that are the basis of the volume 103 corresponding to the user specified in S2502. According to the default scale evaluation formula having and as an argument, the number of storage nodes to be added (or the number of storage nodes after expansion) is calculated, and a scale-out request according to the calculated number of storage nodes is transmitted to the management node 13.

Ｓ２５０７では、監視プログラム１３１１は、Ｓ２５０２で特定された通知条件が“低頻度”か判定する。そうであれば（Ｓ２５０７：ＹＥＳ）、処理がＳ２５０８に進み、そうでなければ（Ｓ２５０７：ＮＯ）、処理が終了する。 In S2507, the monitoring program 1311 determines whether the notification condition specified in S2502 is "low frequency". If so (S2507: YES), the process proceeds to S2508, otherwise (S2507: NO), the process ends.

Ｓ２５０８では、監視プログラム１３１１は、Ｓ２５０２で特定した地域面積と、２つの書込み頻度（ＦＬとＦＳ）と、Ｓ２５０２で特定したユーザに対応のボリューム１０３の基になっている現在のストレージノード数とを引数に持つ既定のスケール評価式に従い、減設するストレージノード数（或いは、減設後のストレージノード数）を算出し、管理ノード１３へ、当該算出したストレージノード数に従うスケールイン要求を送信する。 In S2508, the monitoring program 1311 is based on the area area specified in S2502 , the two write frequencies (FL and HS ), and the current number of storage nodes that are the basis of the volume 103 corresponding to the user specified in S2502. According to the default scale evaluation formula with and as an argument, the number of storage nodes to be reduced (or the number of storage nodes after reduction) is calculated, and a scale-in request according to the calculated number of storage nodes is sent to the management node 13. do.

なお、上記の既定のスケール評価式として、例えば、下記数３を採用することができる。これにより、ユーザに対応した地域の面積に応じたスケールアウトとスケールインの規模を推定することができる。

Figure 0007048402000003
As the above-mentioned default scale evaluation formula, for example, the following number 3 can be adopted. This makes it possible to estimate the scale-out and scale-in scales according to the area of the area corresponding to the user.
Figure 0007048402000003

図１７は、ファイルアクセスプログラム１３１２の動作フローを示す。 FIG. 17 shows the operation flow of the file access program 1312.

Ｓ２６０１では、ファイルアクセスプログラム１３１２は、データレイクネットワーク１からの要求が、書込み要求かを判定する。そうであれば（Ｓ２６０１：ＹＥＳ）、処理がＳ２６０２に進み、そうでなければ（Ｓ２６０１：ＮＯ）、処理がＳ２６０５に進む。 In S2601, the file access program 1312 determines whether the request from the data lake network 1 is a write request. If so (S2601: YES), the process proceeds to S2602, otherwise (S2601: NO), the process proceeds to S2605.

Ｓ２６０２では、ファイルアクセスプログラム１３１２は、書込み要求を基に、その要求から特定されるファイルパスに従うファイル書込み要求をボリューム１０３に対して送信する。 In S2602, the file access program 1312 transmits a file write request according to the file path specified from the request to the volume 103 based on the write request.

Ｓ２６０３では、ファイルアクセスプログラム１３１２は、統計管理テーブル５０２の長期の書込み頻度と短期の書込み頻度（Ｓ２６０２でのファイルパスに従うフォルダ（セグメント）に対応する２つの書込み頻度）を更新する。データレイクネットワーク１からの書込み頻度（書込み要求の受信頻度）は、センサ２０１において異常発生等の特定イベントが生じた場合に増え、セグメント毎に、長期の書込み頻度と短期の書込み頻度が管理される。 In S2603, the file access program 1312 updates the long-term write frequency and the short-term write frequency of the statistical management table 502 (two write frequencies corresponding to folders (segments) according to the file path in S2602). The write frequency (write request reception frequency) from the data lake network 1 increases when a specific event such as an abnormality occurs in the sensor 201, and the long-term write frequency and the short-term write frequency are managed for each segment. ..

Ｓ２６０４では、ファイルアクセスプログラム１３１２は、Ｓ２６０２でのファイルパスと、Ｓ２６０３での更新後の２つの書込み頻度を引数に、監視プログラム１３１１を呼び出す。 In S2604, the file access program 1312 calls the monitoring program 1311 with the file path in S2602 and the two write frequencies after the update in S2603 as arguments.

Ｓ２６０５では、ファイルアクセスプログラム１３１２は、データレイクネットワーク１からの要求が、読出し要求かを判定する。そうであれば（Ｓ２６０５：ＹＥＳ）、処理がＳ２６０６に進み、そうでなければ（Ｓ２６０５：ＮＯ）、処理が終了する。なお、図１７が示す動作フローは、データレイクネットワーク１からの要求として書込み要求と読出し要求の２つを例に取っているが、それらの要求以外の要求もあれば、Ｓ２６０５：ＮＯの後は、当該要求の処理が行われて良い。 In S2605, the file access program 1312 determines whether the request from the data lake network 1 is a read request. If so (S2605: YES), the process proceeds to S2606, otherwise (S2605: NO), the process ends. The operation flow shown in FIG. 17 takes two examples of a write request and a read request as requests from the data lake network 1, but if there are requests other than those requests, after S2605: NO, , The request may be processed.

Ｓ２６０６では、ファイルアクセスプログラム１３１２は、読出し要求を基に、その要求から特定されるファイルパスに従うファイル読出し要求をボリューム１０３に対して送信し、そのファイル読出し要求に応答して読み出されたファイルを、要求元へ送信する。 In S2606, the file access program 1312 sends a file read request according to the file path specified from the request to the volume 103 based on the read request, and sends the file read in response to the file read request to the volume 103. , Send to the requester.

スケーリングプログラム１３１３は、スケールアウトの場合、使用されていないストレージノード１４へ、ボリューム１０３への加入の要求を送信する。スケーリングプログラム１３１３は、スケールインの場合、ボリューム１０３から脱退させるストレージノード１４が保持するデータを他の使用中のストレージノード１４へ転送し、脱退させるストレージノード１４へ、脱退要求を送信する。 In the case of scale-out, the scaling program 1313 sends a request to join the volume 103 to the unused storage node 14. In the case of scale-in, the scaling program 1313 transfers the data held by the storage node 14 to be withdrawn from the volume 103 to another storage node 14 in use, and sends a withdrawal request to the storage node 14 to be withdrawn.

次に、ストレージノード１４の各プログラムの動作を説明する。 Next, the operation of each program of the storage node 14 will be described.

データアクセスプログラム１４１０は、管理ノード１３からの要求が、データ書込み（ファイル書込み要求）であれば、管理ノードからのデータ（ファイルを構成するデータ）を、ＰＤＥＶ部１５（又はキャッシュメモリ）へ書き込む。データアクセスプログラム１４１０は、管理ノード１３からの要求が、データ読出し（ファイル読出し要求）であれば、ＰＤＥＶ部１５（又はキャッシュメモリ）から、データを読出し、管理ノード１３へ返送する。 If the request from the management node 13 is a data write (file write request), the data access program 1410 writes the data (data constituting the file) from the management node to the PDEV unit 15 (or cache memory). If the request from the management node 13 is a data read (file read request), the data access program 1410 reads the data from the PDEV unit 15 (or cache memory) and returns it to the management node 13.

ノード増設プログラム１４１１では、増設対象のストレージノード１４に関して、使用中状態とし、且つ、管理ノード１３からのデータ送受動作の許可を設定する。 In the node expansion program 1411, the storage node 14 to be expanded is set to be in use and the permission for data transmission / reception operation from the management node 13 is set.

ノード減設プログラム１４１２は、減設対象のストレージノード１４に関して、空き状態とし、且つ、管理ノード１３からのデータ送受動作の禁止を設定する。 The node reduction program 1412 sets the storage node 14 to be reduced to a free state and prohibits the data transmission / reception operation from the management node 13.

以上で、本実施例に係るシステムの構成と動作の概要を説明した。 The outline of the system configuration and operation according to this embodiment has been described above.

本実施例に係るシステムは、社会インフラ管理と、それを実現するITシステムに適用できる。特に、社会インフラの監視データ（センサーデータ）を保持するデータレイクを提供するITシステムの共同利用に適用できる。 The system according to this embodiment can be applied to social infrastructure management and the IT system that realizes it. In particular, it can be applied to the shared use of IT systems that provide data lakes that hold monitoring data (sensor data) for social infrastructure.

以上、一実施例を説明したが、これらは本発明の説明のための例示であって、本発明の範囲をこの実施例にのみ限定する趣旨ではない。本発明は、他の種々の形態でも実行することが可能である。例えば、いずれかのストレージノード１４が管理ノード１３としても機能して良い。また、例えば、セットアップ画面１２０１は、通知条件の設定と、通知とを兼ねた画面（例えば、通知の際に通知条件の設定を可能とした画面）であるが、通知条件設定用の画面と、通知用の画面とが異なっていても良い。 Although one embodiment has been described above, these are examples for explaining the present invention, and the scope of the present invention is not limited to this embodiment. The present invention can also be practiced in various other forms. For example, any storage node 14 may also function as the management node 13. Further, for example, the setup screen 1201 is a screen that serves both as a notification condition setting and a notification (for example, a screen that enables the notification condition to be set at the time of notification). The screen for notification may be different.

なお、上述の説明を、例えば下記のように総括できる。下記総括は、上述の説明に無い事項を含んでいても良い。 The above description can be summarized as follows, for example. The following summary may include matters not included in the above description.

管理ノード１３が、データセットアクセス部（例えばファイルアクセス部）と、監視部とを有する。 The management node 13 has a data set access unit (for example, a file access unit) and a monitoring unit.

データセットアクセス部は、複数のユーザにそれぞれ対応した複数の地域３０３に関わる複数のセグメント２０２に存在する複数のセンサ２０１の各々について、当該センサ２０１の測定値に関して所定の条件が満たされる都度に、当該センサ２０１のセンサデータセットの書込み要求を受信するようになっている。ここで言う「所定の条件」とは、例えば、単位時間当たりのセンサデータセット増加量でも良いし、単位時間当たりの測定値変動量でも良い。各センサ２０１（又はリダイレクトサーバ９のような中継器）が、当該センサ２０１の測定に関して異常発生等の特定イベントが生じた場合にセンサデータセットの書込み要求を管理ノード１３に発行するようになっている。データセットアクセス部は、いずれかのセンサ２０１のセンサデータセットの書込み要求を受信した場合、複数のユーザにそれぞれ対応した複数のボリューム１０３のうち、当該センサ２０１が存在するセグメント２０２が関わる地域３０３に対応するユーザに対応したボリューム１０３に対する、当該センサデータセットの書込み要求を発行する。なお、複数のボリューム１０３の各々は、同一のストレージシステムに存在する１以上のストレージノード１４であるスケールアウト型のストレージノード群に基づいている。複数のボリューム１０３の各々において、当該ボリューム１０３に格納されている各センサデータセット（例えばファイル）に、当該センサデータセットに関して、当該センサデータセットに対応したセンサ２０１の測定位置と測定日時とが関連付けられている（例えば、当該センサデータセットは、当該測定位置と測定日時に対応したフォルダ（格納領域の一例）に格納されるようになっている）。 The data set access unit receives each time a predetermined condition is satisfied with respect to the measured value of the sensor 201 for each of the plurality of sensors 201 existing in the plurality of segments 202 related to the plurality of regions 303 corresponding to the plurality of users. A write request for the sensor data set of the sensor 201 is received. The “predetermined condition” referred to here may be, for example, the amount of increase in the sensor data set per unit time, or the amount of fluctuation in the measured value per unit time. Each sensor 201 (or a repeater such as the redirect server 9) issues a write request for the sensor data set to the management node 13 when a specific event such as an abnormality occurs in the measurement of the sensor 201. There is. When the data set access unit receives a write request for the sensor data set of any of the sensors 201, the data set access unit enters the area 303 in which the segment 202 in which the sensor 201 exists is involved among the plurality of volumes 103 corresponding to the plurality of users. Issue a write request for the sensor data set to the volume 103 corresponding to the corresponding user. Each of the plurality of volumes 103 is based on a scale-out type storage node group which is one or more storage nodes 14 existing in the same storage system. In each of the plurality of volumes 103, each sensor data set (for example, a file) stored in the volume 103 is associated with the measurement position of the sensor 201 corresponding to the sensor data set and the measurement date and time for the sensor data set. (For example, the sensor data set is stored in a folder (an example of a storage area) corresponding to the measurement position and the measurement date and time).

監視部は、複数のボリューム１０３の各々について、当該ボリュームに対応したユーザに関する地域３０３を構成するセグメント２０２毎に書込み頻度を監視する。 The monitoring unit monitors the write frequency of each of the plurality of volumes 103 for each segment 202 constituting the area 303 for the user corresponding to the volume.

これにより、センサデータセットの書込み頻度の変化により、異常発生等の特定イベントが発している地域３０３の特定が、センサデータセットそれ自体を分析すること無しに、可能である。 This makes it possible to identify the area 303 where a specific event such as an abnormality has occurred due to a change in the write frequency of the sensor data set, without analyzing the sensor data set itself.

なお、管理ＤＢ４が、地域３０３とセグメント２０２との対応関係を示す管理テーブルを含んで良い。 The management DB 4 may include a management table showing the correspondence between the area 303 and the segment 202.

管理ノード１３が、更に、書込み頻度に関する条件が満たされたセグメント２０２である対象セグメント２０２が関わる地域３０３に対応したユーザに対する条件該当通知を発行するユーザサービス部を備える。「条件該当通知」は、書込み頻度に関する条件が満たされたことの通知であり、例えば、通知メッセージ１２０６である。 The management node 13 further includes a user service unit that issues a condition applicable notification to the user corresponding to the area 303 in which the target segment 202, which is the segment 202 satisfying the condition regarding the write frequency, is involved. The "condition applicable notification" is a notification that the condition relating to the write frequency is satisfied, and is, for example, the notification message 1206.

システムが共同利用されると、センサデータセットの書込みに関して条件が満たされても、いずれのユーザを通知先とするかの特定が難しいケースがあり得る。例えば、ユーザとは独立な第三者が設置し運営する大量のセンサを、TCO削減の目的で利用されることを想定すると、いずれのセンサに関しての通知をいずれのユーザが必要としているかの特定が容易ではないと考えられる。上述のユーザサービス部によれば、異常発生等の特定イベントが発していると特定された地域３０３を管轄するユーザが特定され、当該ユーザに、通知がされる。 When the system is shared, it may be difficult to specify which user is the notification destination even if the conditions for writing the sensor data set are satisfied. For example, assuming that a large number of sensors installed and operated by a third party independent of the user are used for the purpose of reducing TCO, it is possible to identify which user needs notification about which sensor. It is not considered easy. According to the above-mentioned user service unit, a user who has jurisdiction over the area 303 where a specific event such as an abnormality has occurred is specified, and the user is notified.

管理ノード１３が、更に、スケーリング部を備える。スケーリング部は、対象セグメント（書込み頻度に関する条件が満たされたセグメント）２０２が関わる地域３０３のプロパティ（例えば、地域面積や地域人口のような地域の規模に関する値）と、対象セグメント２０２が関わる地域３０３に対応したユーザについてのボリューム１０３である対象ボリューム１０３の基になっているストレージノード１４の数とに基づいて、当該対象ボリューム１０３の基となるストレージノードのスケール（例えばストレージノード数）を決定し、決定したスケールに従うスケーリングの実行要求をストレージシステムに発行する。 The management node 13 further includes a scaling unit. The scaling unit includes the property of the area 303 (for example, the value related to the size of the area such as the area area and the area population) related to the target segment (the segment satisfying the condition regarding the write frequency) 202 and the area 303 related to the target segment 202. Based on the number of storage nodes 14 that are the basis of the target volume 103, which is the volume 103 for the user corresponding to the above, the scale of the storage node that is the basis of the target volume 103 (for example, the number of storage nodes) is determined. , Issue a scaling execution request to the storage system according to the determined scale.

これにより、複数のユーザに共同利用されるシステムの運用管理者が、地域３０３に関する知識がなくても、ボリューム１０３のスケールを、当該地域３０３に応じたスケールにすることが、可能である。 Thereby, the operation manager of the system shared by a plurality of users can set the scale of the volume 103 to the scale corresponding to the region 303 without having to know the region 303.

ユーザサービス部は、対象ボリューム１０３についてスケールが決定された場合、対象ボリューム１０３に対応したユーザに対するスケーリング通知を発行する。スケーリング通知の発行とは、例えば、上述の通知メッセージ１２０６が、スケーリングの実施がされていることを示す通知を含むことと、当該通知メッセージ１２０６に対してボタン「Cancel」１２０７が有効とされることであって良い。スケーリング部は、スケーリング通知に対して取消しを受け付けた場合、決定したスケールに従うスケーリングの取消しの要求をストレージシステムに発行する。ストレージシステムは、当該取消しの要求に応答して、ボリューム１０３の基になるストレージノード群の構成を基に戻す。 When the scale of the target volume 103 is determined, the user service unit issues a scaling notification to the user corresponding to the target volume 103. Issuing a scaling notification means, for example, that the above-mentioned notification message 1206 includes a notification indicating that scaling has been performed, and that the button "Cancel" 1207 is enabled for the notification message 1206. It may be. When the scaling unit accepts the cancellation in response to the scaling notification, the scaling unit issues a request for cancellation of the scaling according to the determined scale to the storage system. In response to the cancellation request, the storage system reverts the configuration of the storage node group on which the volume 103 is based.

これにより、広域災害などでスケールアウトがなされるといった正常なケース（例えば、広域災害が生じると多くのセンサ２０１に関するセンサデータセットの書込み頻度が増加しそれに伴い記憶容量を増やすためのスケールアウトが行われるケース）と異なるケースでのスケーリング（例えば、センサ２０１のエラーなどによる誤動作が原因で増えた又は減った書込み頻度に応じたスケーリング）の取消ができるようになる。なお、上述の実施例では、少なくともスケールアウトに関しては、広域災害等が原因で急激にセンサデータセットの書込み頻度が増えても対処できるよう、ユーザからのスケーリング指示を受け付けること無しにスケーリングが開始されるが、センサ２０１の誤作動等が原因でそのようなスケーリングが生じても、取消しが可能である。 As a result, in a normal case where scale-out is performed due to a wide-area disaster (for example, when a wide-area disaster occurs, the frequency of writing sensor data sets for many sensors 201 increases, and scale-out is performed to increase the storage capacity accordingly. It becomes possible to cancel the scaling (for example, the scaling according to the write frequency increased or decreased due to the malfunction due to the error of the sensor 201) in a case different from the above case). In the above embodiment, at least for scale-out, scaling is started without receiving a scaling instruction from the user so that even if the writing frequency of the sensor data set suddenly increases due to a wide area disaster or the like, it can be dealt with. However, even if such scaling occurs due to a malfunction of the sensor 201 or the like, it can be canceled.

複数のボリューム１０３の各々について、当該ボリュームに対応したユーザに関する地域３０３を構成するセグメント２０２毎に、短期の書込み頻度と長期の書込み頻度とがある。書込み頻度に関する上述の条件は、短期の書込み頻度と長期の書込み頻度との差（例えば絶対値）が既定値以上であることである。決定されたスケールに従うスケーリングは、下記である。
・短期の書込み頻度が長期の書込み頻度よりも高く、且つ、対象ボリューム１０３に対応したユーザから高頻度の通知が望まれている場合（通知条件が“高頻度”の場合）、スケールアウト。
・短期の書込み頻度が長期の書込み頻度よりも低く、且つ、対象ボリューム１０３に対応したユーザから低頻度の通知が望まれている場合（通知条件が“低頻度”の場合）、スケールイン。 For each of the plurality of volumes 103, there is a short-term write frequency and a long-term write frequency for each segment 202 constituting the region 303 for the user corresponding to the volume. The above-mentioned condition regarding the write frequency is that the difference (for example, an absolute value) between the short-term write frequency and the long-term write frequency is greater than or equal to the default value. The scaling according to the determined scale is as follows.
-If the short-term write frequency is higher than the long-term write frequency, and the user corresponding to the target volume 103 wants high-frequency notification (when the notification condition is "high frequency"), scale out.
-If the short-term write frequency is lower than the long-term write frequency, and the user corresponding to the target volume 103 wants low-frequency notification (when the notification condition is "low frequency"), scale-in.

これにより、短期の書込み頻度と長期の書込み頻度との差が既定値以上である場合における短期の書込み頻度と長期の書込み頻度との関係に応じて、各ユーザに、当該ユーザの希望する通知頻度に応じた頻度での通知をできることが期待できる。 As a result, each user is notified of the desired notification frequency according to the relationship between the short-term write frequency and the long-term write frequency when the difference between the short-term write frequency and the long-term write frequency is greater than or equal to the default value. It can be expected that notifications can be made as often as possible.

なお、各ユーザに関して希望される通知条件が無くても、短期の書込み頻度と長期の書込み頻度との差が既定値以上である場合における短期の書込み頻度と長期の書込み頻度との関係に応じて、ユーザへの通知が可能である。また、短期の書込み頻度と長期の書込み頻度との関係に関わらず短期の書込み頻度と長期の書込み頻度との差が既定値以上の場合に、ユーザへの通知が行われても良い。 Even if there is no desired notification condition for each user, depending on the relationship between the short-term write frequency and the long-term write frequency when the difference between the short-term write frequency and the long-term write frequency is greater than or equal to the default value. , Notification to the user is possible. Further, regardless of the relationship between the short-term write frequency and the long-term write frequency, the user may be notified when the difference between the short-term write frequency and the long-term write frequency is greater than or equal to the default value.

１０２：データレイクサービスシステム 102: Data lake service system

Claims (9)

複数のユーザにそれぞれ対応した複数の地域に関わる複数のセグメントに存在する複数のセンサの各々について、当該センサの測定値に関して所定の条件が満たされる都度に、当該センサのセンサデータセットの書込み要求を受信するようになっており、いずれかのセンサのセンサデータセットの書込み要求を受信した場合、前記複数のユーザにそれぞれ対応した複数のボリュームのうち、当該センサが存在するセグメントが関わる地域に対応するユーザに対応したボリュームに対する、当該センサデータセットの書込み要求を発行するデータセットアクセス部と、
前記複数のボリュームの各々は、同一のストレージシステムに存在する１以上のストレージノードであるスケールアウト型のストレージノード群に基づいており、
前記複数のボリュームの各々において、当該ボリュームに格納されている各センサデータセットに、当該センサデータセットに関して、当該センサデータセットに対応したセンサの測定位置と測定日時とが関連付けられており、
前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域を構成するセグメント毎に書込み頻度を監視する監視部と
を備えるデータストアシステム。 For each of a plurality of sensors existing in a plurality of segments related to a plurality of regions corresponding to a plurality of users, a write request for a sensor data set of the sensor is requested each time a predetermined condition is satisfied with respect to the measured value of the sensor. When a write request for a sensor data set of any of the sensors is received, it corresponds to the area where the segment in which the sensor is located is involved among the plurality of volumes corresponding to the plurality of users. A dataset access unit that issues a write request for the sensor dataset to the volume corresponding to the user,
Each of the plurality of volumes is based on a scale-out type storage node group which is one or more storage nodes existing in the same storage system.
In each of the plurality of volumes, each sensor data set stored in the volume is associated with the measurement position and the measurement date and time of the sensor corresponding to the sensor data set for the sensor data set.
A data store system including a monitoring unit that monitors the write frequency of each of the plurality of volumes for each segment constituting the area related to the user corresponding to the volume. 書込み頻度に関する条件が満たされたセグメントである対象セグメントが関わる地域に対応したユーザに対する条件該当通知を発行するユーザサービス部、
を更に備える請求項１に記載のデータストアシステム。 User service department that issues condition applicable notifications to users corresponding to the area related to the target segment, which is a segment that meets the conditions related to write frequency.
The data store system according to claim 1. 前記対象セグメントが関わる地域のプロパティと、前記対象セグメントが関わる地域に対応したユーザについてのボリュームである対象ボリュームの基になっているストレージノードの数とに基づいて、当該対象ボリュームの基となるストレージノードのスケールを決定し、決定したスケールに従うスケーリングの実行要求を前記ストレージシステムに発行するスケーリング部、
を更に備える請求項２に記載のデータストアシステム。 Storage that is the basis of the target volume based on the properties of the area that the target segment is involved in and the number of storage nodes that are the basis of the target volume that is the volume for the user corresponding to the area that the target segment is related to. A scaling unit that determines the scale of a node and issues a scaling execution request to the storage system according to the determined scale.
The data store system according to claim 2. 前記ユーザサービス部は、前記対象ボリュームについてスケールが決定された場合、前記対象ボリュームに対応したユーザに対するスケーリング通知を発行し、
前記スケーリング部は、前記スケーリング通知に対して取消しを受け付けた場合、前記決定したスケールに従うスケーリングの取消しの要求を前記ストレージシステムに発行する、
請求項３に記載のデータストアシステム。 When the scale of the target volume is determined, the user service unit issues a scaling notification to the user corresponding to the target volume.
When the scaling unit receives the cancellation in response to the scaling notification, the scaling unit issues a request for cancellation of the scaling according to the determined scale to the storage system.
The data store system according to claim 3. 前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域を構成するセグメント毎に、短期の書込み頻度と長期の書込み頻度とがあり、
前記条件は、前記短期の書込み頻度と前記長期の書込み頻度との差が既定値以上であることであり、
前記決定されたスケールに従うスケーリングは、
前記短期の書込み頻度が前記長期の書込み頻度よりも高く、且つ、前記対象ボリュームに対応したユーザから高頻度の通知が望まれている場合、スケールアウトであり、
前記短期の書込み頻度が前記長期の書込み頻度よりも低く、且つ、前記対象ボリュームに対応したユーザから低頻度の通知が望まれている場合、スケールインである、
請求項４に記載のデータストアシステム。 For each of the plurality of volumes, there is a short-term write frequency and a long-term write frequency for each segment constituting the region related to the user corresponding to the volume.
The condition is that the difference between the short-term write frequency and the long-term write frequency is equal to or greater than a predetermined value.
Scaling according to the determined scale is
When the short-term write frequency is higher than the long-term write frequency and the user corresponding to the target volume desires high-frequency notification, it is scale-out.
When the short-term write frequency is lower than the long-term write frequency and the user corresponding to the target volume desires low-frequency notification, the scale-in is performed.
The data store system according to claim 4. 前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域に関わるセグメント毎に、短期の書込み頻度と長期の書込み頻度とがあり、
前記条件は、前記短期の書込み頻度と前記長期の書込み頻度との差が既定値以上であり、
前記決定されたスケールに従うスケーリングは、
前記短期の書込み頻度が前記長期の書込み頻度よりも高い場合、スケールアウトであり、
前記短期の書込み頻度が前記長期の書込み頻度よりも低い場合、スケールインである、
請求項３に記載のデータストアシステム。 For each of the plurality of volumes, there is a short-term write frequency and a long-term write frequency for each segment related to the region related to the user corresponding to the volume.
Under the above conditions, the difference between the short-term write frequency and the long-term write frequency is equal to or greater than the default value.
Scaling according to the determined scale is
If the short-term write frequency is higher than the long-term write frequency, it is a scale-out.
If the short-term write frequency is lower than the long-term write frequency, it is a scale-in.
The data store system according to claim 3. 前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域に関わるセグメント毎に、短期の書込み頻度と長期の書込み頻度とがあり、
前記条件は、短期の書込み頻度と長期の書込み頻度との差が既定値以上である、
請求項２に記載のデータストアシステム。 For each of the plurality of volumes, there is a short-term write frequency and a long-term write frequency for each segment related to the region related to the user corresponding to the volume.
Under the above conditions, the difference between the short-term write frequency and the long-term write frequency is greater than or equal to the default value.
The data store system according to claim 2. 複数のユーザにそれぞれ対応した複数の地域に関わる複数のセグメントに存在する複数のセンサの各々について、当該センサの測定値に関して所定の条件が満たされる都度に、当該センサのセンサデータセットの書込み要求を受信するようになっており、いずれかのセンサのセンサデータセットの書込み要求を受信した場合、前記複数のユーザにそれぞれ対応した複数のボリュームのうち、当該センサが存在するセグメントが関わる地域に対応するユーザに対応したボリュームに対する、当該センサデータセットの書込み要求を発行し、
前記複数のボリュームの各々は、同一のストレージシステムに存在する１以上のストレージノードであるスケールアウト型のストレージノード群に基づいており、
前記複数のボリュームの各々において、当該ボリュームに格納されている各センサデータセットに、当該センサデータセットに関して、当該センサデータセットに対応したセンサの測定位置と測定日時とが関連付けられており、
前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域を構成するセグメント毎に書込み頻度を監視する、
データストア管理方法。 For each of a plurality of sensors existing in a plurality of segments related to a plurality of regions corresponding to a plurality of users, a write request for a sensor data set of the sensor is requested each time a predetermined condition is satisfied with respect to the measured value of the sensor. When a write request for a sensor data set of any of the sensors is received, it corresponds to the area where the segment in which the sensor is located is involved among the plurality of volumes corresponding to the plurality of users. Issue a write request for the sensor data set to the volume corresponding to the user,
Each of the plurality of volumes is based on a scale-out type storage node group which is one or more storage nodes existing in the same storage system.
In each of the plurality of volumes, each sensor data set stored in the volume is associated with the measurement position and the measurement date and time of the sensor corresponding to the sensor data set for the sensor data set.
For each of the plurality of volumes, the write frequency is monitored for each segment constituting the region for the user corresponding to the volume.
Data store management method. 複数のユーザにそれぞれ対応した複数の地域に関わる複数のセグメントに存在する複数のセンサの各々について、当該センサの測定値に関して所定の条件が満たされる都度に、当該センサのセンサデータセットの書込み要求を受信するようになっており、いずれかのセンサのセンサデータセットの書込み要求を受信した場合、前記複数のユーザにそれぞれ対応した複数のボリュームのうち、当該センサが存在するセグメントが関わる地域に対応するユーザに対応したボリュームに対する、当該センサデータセットの書込み要求を発行し、
前記複数のボリュームの各々は、同一のストレージシステムに存在する１以上のストレージノードであるスケールアウト型のストレージノード群に基づいており、
前記複数のボリュームの各々において、当該ボリュームに格納されている各センサデータセットに、当該センサデータセットに関して、当該センサデータセットに対応したセンサの測定位置と測定日時とが関連付けられており、
前記複数のボリュームの各々について、当該ボリュームに対応したユーザに関する地域を構成するセグメント毎に書込み頻度を監視する、
ことを計算機に実行させるコンピュータプログラム。 For each of a plurality of sensors existing in a plurality of segments related to a plurality of regions corresponding to a plurality of users, a write request for a sensor data set of the sensor is requested each time a predetermined condition is satisfied with respect to the measured value of the sensor. When a write request for a sensor data set of any of the sensors is received, it corresponds to the area where the segment in which the sensor is located is involved among the plurality of volumes corresponding to the plurality of users. Issue a write request for the sensor data set to the volume corresponding to the user,
Each of the plurality of volumes is based on a scale-out type storage node group which is one or more storage nodes existing in the same storage system.
In each of the plurality of volumes, each sensor data set stored in the volume is associated with the measurement position and the measurement date and time of the sensor corresponding to the sensor data set for the sensor data set.
For each of the plurality of volumes, the write frequency is monitored for each segment constituting the region for the user corresponding to the volume.
A computer program that lets a calculator do things.
JP2018083399A 2018-04-24 2018-04-24 Data store system and data store management method Active JP7048402B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018083399A JP7048402B2 (en) 2018-04-24 2018-04-24 Data store system and data store management method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018083399A JP7048402B2 (en) 2018-04-24 2018-04-24 Data store system and data store management method

Publications (2)

Publication Number Publication Date
JP2019191894A JP2019191894A (en) 2019-10-31
JP7048402B2 true JP7048402B2 (en) 2022-04-05

Family

ID=68390473

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018083399A Active JP7048402B2 (en) 2018-04-24 2018-04-24 Data store system and data store management method

Country Status (1)

Country Link
JP (1) JP7048402B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021090356A1 (en) * 2019-11-05 2021-05-14 日本電信電話株式会社 Information processing device, method, and program
JP7191906B2 (en) 2020-09-09 2022-12-19 株式会社日立製作所 RESOURCE ALLOCATION CONTROL DEVICE, COMPUTER SYSTEM, AND RESOURCE ALLOCATION CONTROL METHOD

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010198323A (en) 2009-02-25 2010-09-09 Nippon Telegr & Teleph Corp <Ntt> Tuple accumulation/retrieval system, tuple accumulation/retrieval method, tuple device, and tuple distribution device
JP2010224850A (en) 2009-03-24 2010-10-07 Nec Corp Allocation system, allocation apparatus, allocation method, and program
JP2013058108A (en) 2011-09-08 2013-03-28 Fujitsu Ltd Tag management device and tag management program
WO2013093994A1 (en) 2011-12-19 2013-06-27 富士通株式会社 Storage system, data rebalancing program and data rebalancing method
JP2016103113A (en) 2014-11-27 2016-06-02 株式会社日立製作所 Computer system and method for managing computer resource assignment
WO2017056238A1 (en) 2015-09-30 2017-04-06 株式会社日立製作所 Vm assignment management system and vm assignment management method
JP2017528967A (en) 2014-08-07 2017-09-28 インテル アイピー コーポレイション Virtualization network function management

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010198323A (en) 2009-02-25 2010-09-09 Nippon Telegr & Teleph Corp <Ntt> Tuple accumulation/retrieval system, tuple accumulation/retrieval method, tuple device, and tuple distribution device
JP2010224850A (en) 2009-03-24 2010-10-07 Nec Corp Allocation system, allocation apparatus, allocation method, and program
JP2013058108A (en) 2011-09-08 2013-03-28 Fujitsu Ltd Tag management device and tag management program
WO2013093994A1 (en) 2011-12-19 2013-06-27 富士通株式会社 Storage system, data rebalancing program and data rebalancing method
JP2017528967A (en) 2014-08-07 2017-09-28 インテル アイピー コーポレイション Virtualization network function management
JP2016103113A (en) 2014-11-27 2016-06-02 株式会社日立製作所 Computer system and method for managing computer resource assignment
WO2017056238A1 (en) 2015-09-30 2017-04-06 株式会社日立製作所 Vm assignment management system and vm assignment management method

Also Published As

Publication number Publication date
JP2019191894A (en) 2019-10-31

Similar Documents

Publication Publication Date Title
CN103354924B (en) For monitoring the method and system of performance indications
US10956391B2 (en) Methods and systems for determining hardware sizing for storage array systems
JP5123641B2 (en) Performance history management method and performance history management system
CN107851105B (en) Distributed storage system with copy location selection
US11210616B2 (en) Asset allocation evaluation system
JP6526907B2 (en) Performance monitoring of distributed storage systems
US10432483B1 (en) General-purpose metrics publishing with variable resolution
US9965327B2 (en) Dynamically scalable data collection and analysis for target device
JP2022518619A (en) Quantitative geospatial analysis of device location data
JP7048402B2 (en) Data store system and data store management method
US8904144B1 (en) Methods and systems for determining at risk index for storage capacity
CN109299194A (en) Multi-edition data memory management method and device, electronic equipment, storage medium
JPWO2014178104A1 (en) Computer system and method for supporting analysis of asynchronous remote replication
CN103294546A (en) Multi-dimensional resource performance interference aware on-line virtual machine migration method and system
WO2016103471A1 (en) Computer system and administration program
JP6842447B2 (en) Systems and methods to help optimize resource allocation
US10600007B2 (en) Auto-analyzing spatial relationships in multi-scale spatial datasets for spatio-temporal prediction
US9276826B1 (en) Combining multiple signals to determine global system state
US9760306B1 (en) Prioritizing business processes using hints for a storage system
CN110431530B (en) Expected collection of metrics and logs
US10171614B2 (en) Cache memory balancing based on moving object prediction
US10515533B2 (en) Alerting system and method
US10469411B1 (en) Dynamic application scaling
Jeon et al. A performance measurement framework of cloud storage services
JP2018136681A (en) Performance management program, performance management method, and management device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220324

R150 Certificate of patent or registration of utility model

Ref document number: 7048402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150