CN112800056A - 基于多粒度时空数据的多层索引构建方法 - Google Patents

Abstract

本公开的实施例提供了一种基于多粒度时空数据的多层索引构建方法、装置、设备和计算机可读存储介质。所述方法包括获取多粒度时空数据；所述多粒度时空数据包括时间信息和属性信息；为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。以此方式，可以提高多粒度时空数据的检索效率。

Description

基于多粒度时空数据的多层索引构建方法

技术领域

本公开的实施例一般涉及数据处理领域，并且更具体地，涉及基于多粒度时空数据的多层索引构方法、装置、设备和计算机可读存储介质。

背景技术

传统地理信息***(GIS，Geographic Information System)已建立了成熟的基础理论、应用平台和相关标准，但随着空间信息应用领域、应用模式、信息内容、分析方法、展现方式等的发展，已越来越难以满足人们认知可管世界的需要。

全空间信息***概念的提出，将地理信息***的空间尺度扩展到了微观和宏观空间，将空间数据扩展到了时空大数据，将空间分析扩展到了大数据空间解析，以进一步构建无所不在的空间信息***世界。

在全空间信息***中，数据对象之间的关联是普遍存在的，并且关联关系的种类和复杂程度都是较高的。在描述这些对象之间的关联关系时，关联本身构成的数据集规模将急剧增长，对数据的存储和管理带来较大挑战。

为了应对这种高度关联的大数据集的存储需求，通常会有针对性地采用结构化关系数据库存储结构化数据，根据大数据集中不同数据的各自特点，将它们分别存放在了合适的数据库或文件***中。

而由于缺少针对高度关联大数据集中数据之间复杂关联的考虑，也没有与之匹配的数据模型、存储方法和查询方法，所以这些存储在不同数据库或文件***中的数据集往往相互独立，存在大量冗余，同时在进行复杂关联关系查询时也较为低效。

发明内容

根据本公开的实施例，提供了一种基于多粒度时空数据的多层索引构方案。

在本公开的第一方面，提供了一种基于多粒度时空数据的多层索引构方法。该方法包括：

获取多粒度时空数据；所述多粒度时空数据包括时间信息和属性信息；

为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

进一步地，所述为所述多粒度时空数据构建概念层索引包括：

根据所述多粒度时空数据的属性信息，确定所述多粒度时空数据间的构成及类属关系，构建所述概念层索引。

进一步地，所述为所述多粒度时空数据构建对象层索引包括

根据所述多粒度时空数据的属性信息和时间信息，构建时空索引和关联关系索引；所述时空索引包括时间索引和空间索引；

根据所述时空索引和关联关系索引，构建所述对象层索引。

进一步地，所述根据所述多粒度时空数据，构建时间索引包括：

根据所述多粒度时空数据所处的时间段，通过图数据库构建所述时间索引。

进一步地，所述根据所述多粒度时空数据所处的时间段，通过图数据库构建所述时间索引包括：

若所述图数据库为Neo4j；

则根据所述多粒度时空数据所处的时间段，对所有的多粒度时空数据均增加一个时间戳属性；

根据所述时间戳属性，通过Lucene构建时间索引。

进一步地，所述为所述多粒度时空数据，构建空间索引包括

根据所述多粒度数控数据，通过R树的方式构建所述空间索引；

其中，在所述R树中，叶子节点为所述多粒度时空数据；

中间节点为索引节点；

根节点为所述空间索引的锚点。

进一步地，所述概念层索引、对象层索引和存储层索引均通过图模型进行连接。

在本公开的第二方面，提供了一种基于多粒度时空数据的多层索引构装置。该装置包括：

获取模块，用于获取多粒度时空数据；

构建模块，用于为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

在本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。

在本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如根据本公开的第一方面的方法。

本申请实施例提供的基于多粒度时空数据的多层索引构建方法，通过获取多粒度时空数据；所述多粒度时空数据包括时间信息和属性信息；为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引，实现了对不同类型的多粒度时空数据的分布式存储，以及对多粒度时空对象的时空检索，提高多粒度时空数据的检索效率。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了根据本公开的实施例的基于多粒度时空数据的多层索引构建方法的流程图；

图2示出了根据本公开的实施例的多层索引结构图；

图3示出了根据本公开的实施例的时间索引模型的示意图；

图4示出了根据本公开的实施例的空间索引R树的示意图；

图5示出了根据本公开的实施例的基于多粒度时空数据的多层索引构建装置的方框图；

图6示出了能够实施本公开的实施例的示例性电子设备的方框图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。

另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1示出了根据本公开实施例的基于多粒度时空数据的多层索引构建方法100的流程图。所述方法100，包括：

S110，获取多粒度时空数据。

在一些实施例中，读取多个***的数据库中存储的多粒度时空数据；其中，不同类型的多粒度时空数据可能分别存储于不同数据的不同库表中。

在一些实施例中，多粒度时空数据基于多粒度时空对象存储表进行存储。在一些实施例中，所述多粒度时空对象包括时空参照、空间位置、空间形态、组成结构、关联关系、认知能力、行为能力、属性特征。

在一些实施例中，针对所述多粒度时空对象的特点，可通过八元组的方式描述所述多粒度时空对象。如，多粒度时空对象＝<OID,STRID，ST_Data,Member，Relation，Cognition，Method，Meta>；

其中，所述OID为对象的标示；

所述STRID为时空参照；所述时空参照包括空间参照(SRID)和时间参照(TRID)；

所述ST_Data为空间和时间数据，用于描述对象的时空位置与形态；

所述Member为成员对象集，用于描述对象的组成；例如，Member＝{O_1,...,O_n}(递归定义)；

所述Relation为对象的关系集合；所述关系包括对象间的关系(例如。继承关系，实现关系，依赖关系，关联关系，聚合关系和组合关系等)、属性关系、空间关系、时间关系、时空关系和综合关系(基于时间特征、空间特征和/或属性特征等形成的关系)；

所述Cognition为描述时空对象所具有的知识体系，用于为所述时空对象自主决策能力的形成奠定基础；

所述Method为所述时空对象所能承受的操作的集合，即方法集，用于描述对象的行为；

所述Meta为所述时空对象的元数据，包括对象的属性特征。

在一些实施例中，所述多粒度时空对象存储表包括以下子表：时区、空间参考、对象分类、数据类型、空间形态、时空对象。

S120，为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

在本公开实施例中，采用分层的架构为所述多粒度时空数据构建索引。

在一些实施例中，如图2所示，所述多粒度时空对象索引分为三个层次。即，概念层、对象层和存储层。

在一些实施例中，所述概念层索引用于存储多粒度时空对象类型之间的构成及类属关系，例如舰船类型与雷达类型的构成关系，以及舰船类型与客船类型之间的类属关系等；

所述对象层索引用于存储多粒度时空对象的时空索引及关联关系索引，例如雷达A与操作员X之间的操控关系，以及雷达A的空间坐标与空间索引节点之间的索引关系等；所述时空索引包括时间索引和空间索引；

所述存储层索引用于存储概念层的对象类型与数据库和表的实际存储关系，以及这些数据库和表之间的关联关系，即通过该索引能够获得对象类型在关系型数据库中的实际存储位置(表级、列级)。

在一些实施例中，因为图数据库专注于数据之间联系的存储和查询，其多层关联查询和反向查询效率远远高于关系数据库和其它NoSQL数据库。多层关联查询是指在数据之间的联系上进行多层查询。例如查询“某个人的朋友的朋友的朋友的朋友”就是在朋友关系上进行多层查询。而反向查询则是指查询的方向与索引建立的方向是相反的。因此，在本实施例中，所述概念层索引、对象层索引和存储层索引间均通过图模型进行连接。关联图模型的形式为：因为每个对象层的多粒度时空对象都将是概念层某个对象类型的实例，因此将采用“实例”关联关系进行连接；而每个概念层的对象类型都应该指明其在关系型数据库中实际数据存储位置，因此将采用“存储”关联关系进行连接。(参考图2)

所述图数据模型是指用节点表示数据对象，用连接节点的边表示数据对象之间的联系的数据模型。

进一步地，所述图数据模型是通过图数据库实现的。

在一些实施例中，如图3所示，所述时间索引的模型是由时间段和多粒度时空对象构成的树。时间段节点按照时间顺序连接构成树的主干，而多粒度时空对象则连接在其所处的时间段节点上构成树的分支。对多粒度时空对象的时间索引，就是对这种树结构的广度优先遍历。

进一步地，除了采用图数据库实现上述时间索引模型外，也可以直接采用图数据库提供的更底层的高效检索功能构建所述时间索引模型。例如，当Neo4j作为图数据库时可以用Lucene来构建所述时间索引。即，根据所述多粒度时空数据所处的时间段，对所有的多粒度时空数据均增加一个时间戳属性，根据所述时间戳属性，通过Lucene构建所述时间索引。所述Lucene是apache软件基金会4jakarta项目组的一个子项目，是一个开放源代码的全文检索引擎工具包。

在一些实施例中，如图4所示，可通过R树的方式构建所述空间索引，在所述R树中：

叶子节点为所述多粒度时空数据；

中间节点为索引节点；

根节点为所述空间索引的锚点。

进一步地，可按照时空参照的不同，构建多层空间索引，每层空间索引为一棵R树，形成R树森林，而每颗R树的锚点将连接在整个***的空间索引的锚点上。即，将所述多粒度时空数据中的“空间索引”、“空间层”、“范围”、“元数据”作为图数据库中的数据节点，连接构成R树，并按照R树的生成方式进行节点的扩展。图数据库中存储的多粒度时空对象的节点将与某个“范围”节点进行连接(根据多粒度时空数据的特征确定)，表示该节点的空间位置在该范围内。(参考图4)

在一些实施例中，根据所述多粒度时空数据的时间、空间信息，调用Action类的Collect算子，构建所述时空索引的R树木。基于存储框架CustomStorage实现基于HDFS的R树的构建与重载过程，即HDFSStorage类。HDFSStorage类定义了索引存储的初始化、存储过程等。

通过使用R树的方式构建所述空间索引的模型，减少了模型计算的工作量，能够在精确查找到符合查询条件的时空数据。

根据本公开的实施例，针对多粒度时空对象的时空、属性、形态和行为特征构建的多层级索引，实现了以下技术效果：

动态可扩展性：支持高度抽象的多粒度时空对象模型八元组；支持新对象类型的自动扩展(R树)；

高效性：在时空检索上具有较高查询效率；

通用性：支持用户通过对象之间的关联实现对象检索，支持多元异构数据的解释性查询。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图5示出了根据本公开的实施例的基于多粒度时空数据的多层索引构建装置500的方框图。如图5所示，装置500包括：

获取模块510，用于获取多粒度时空数据；

构建模块520，用于根据所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

图6示出了可以用来实施本公开的实施例的电子设备600的示意性框图。如图所示，设备600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的计算机程序指令或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序指令，来执行各种适当的动作和处理。在RAM603中，还可以存储设备600操作所需的各种程序和数据。CPU601、ROM602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理单元601执行上文所描述的各个方法和处理，例如方法100。例如，在一些实施例中，方法100可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由CPU 601执行时，可以执行上文描述的方法100的一个或多个步骤。备选地，在其他实施例中，CPU 601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法100。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)等等。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

此外，虽然采用特定次序描绘了各操作，但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行，或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地，在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (10)

1.一种基于多粒度时空数据的多层索引构建方法，其特征在于，包括：

获取多粒度时空数据；所述多粒度时空数据包括时间信息和属性信息；

为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

2.根据权利要求1所述的方法，其特征在于，所述为所述多粒度时空数据构建概念层索引包括：

根据所述多粒度时空数据的属性信息，确定所述多粒度时空数据间的构成及类属关系，构建所述概念层索引。

3.根据权利要求1所述的方法，其特征在于，所述为所述多粒度时空数据构建对象层索引包括

根据所述多粒度时空数据的属性信息和时间信息，构建时空索引和关联关系索引；所述时空索引包括时间索引和空间索引；

根据所述时空索引和关联关系索引，构建所述对象层索引。

4.根据权利要求3所述的方法，其特征在于，所述根据所述多粒度时空数据，构建时间索引包括：

根据所述多粒度时空数据所处的时间段，通过图数据库构建所述时间索引。

5.根据权利要求4所述的方法，其特征在于，所述根据所述多粒度时空数据所处的时间段，通过图数据库构建所述时间索引包括：

若所述图数据库为Neo4j；

则根据所述多粒度时空数据所处的时间段，对所有的多粒度时空数据均增加一个时间戳属性；

根据所述时间戳属性，通过Lucene构建时间索引。

6.根据权利要求3所述的方法，其特征在于，所述为所述多粒度时空数据，构建空间索引包括

根据所述多粒度数控数据，通过R树的方式构建所述空间索引；

其中，在所述R树中，叶子节点为所述多粒度时空数据；

中间节点为索引节点；

根节点为所述空间索引的锚点。

7.根据权利要求1述的方法，其特征在于，所述概念层索引、对象层索引和存储层索引均通过图模型进行连接。

8.一种基于多粒度时空数据的多层索引构建装置，其特征在于，包括：

获取模块，用于获取多粒度时空数据；

构建模块，用于为所述多粒度时空数据构建概念层索引、对象层索引和存储层索引。

9.一种电子设备，包括存储器和处理器，所述存储器上存储有计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1～7中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1～7中任一项所述的方法。

Images