CN107239458A - 基于大数据推算开发对象关系的方法及装置 - Google Patents

基于大数据推算开发对象关系的方法及装置 Download PDF

Info

Publication number
CN107239458A
CN107239458A CN201610183199.5A CN201610183199A CN107239458A CN 107239458 A CN107239458 A CN 107239458A CN 201610183199 A CN201610183199 A CN 201610183199A CN 107239458 A CN107239458 A CN 107239458A
Authority
CN
China
Prior art keywords
data
tables
development object
score value
dependence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610183199.5A
Other languages
English (en)
Other versions
CN107239458B (zh
Inventor
李昊龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201610183199.5A priority Critical patent/CN107239458B/zh
Priority to TW106105605A priority patent/TWI736587B/zh
Priority to PCT/CN2017/076892 priority patent/WO2017167022A1/zh
Priority to EP17773052.0A priority patent/EP3418910A4/en
Publication of CN107239458A publication Critical patent/CN107239458A/zh
Priority to US16/142,617 priority patent/US20190026358A1/en
Application granted granted Critical
Publication of CN107239458B publication Critical patent/CN107239458B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/211Schema design and management
    • G06F16/212Schema design and management with details for data modelling support
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/215Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2282Tablespace storage structures; Management thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/288Entity relationship models

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

本发明公开了一种基于大数据推算开发对象关系的方法及装置,涉及数据管理领域,解决了在大规模复杂的数据场景中分析出数据开发对象之间关系的问题。本发明的方法包括:判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;若所述数据表之间具有血缘关系,则分别获取数据表对应的开发对象信息;建立所述开发对象信息之间的关联关系。本发明主要用于梳理企业数据开发对象之间的关系。

Description

基于大数据推算开发对象关系的方法及装置
技术领域
本发明涉及数据管理领域,特别是涉及一种基于大数据推算开发对象关系的方法及装置。
背景技术
随着大数据时代的到来,企业数据量逐年高速增长,在这些海量的数据中,数据与数据之间会存在千丝万缕的关系,产生数据血缘。数据血缘是指基于数据B产生了数据A,那么数据B与数据A之间即存在事实上的血缘关系。由于企业数据量的不断增长,企业数据的开发对象也越来越多,因此,在基于大规模复杂的数据应用场景下,如何了解开发对象之间的关系强度以及开发对象之间的依赖状况也越来越困难。
在现有技术中,存在有关人际关系网和学术关系网的分析方法。其中,有关人际关系网的分析方法是以人与人之间实际发生的通讯信息为基础的关系网分析,是基于采集到的话单数据进行限制级数的迭代分析,该方法需要依赖人与人之间的通讯信息,在人与人之间不存在通讯信息的情况下,当面向企业数据的开发对象时无法分析出企业数据开发对象之间的关系。而有关学术关系网的分析方法则是以论文作者为基础的学术界关系网分析,是基于作者关系矩阵的分析方法,该方法需要依赖作者的署名,在署名不存在的情况下,当面向企业数据的开发对象时无法分析出企业数据开发对象之间的关系。
由上可知,企业数据开发对象之间的关系从未被梳理,企业数据开发对象关系究竟处于何种状态无法知晓。因此,如何根据企业数据探究开发对象之间的关系成为企业数据管理过程中亟待解决的问题。
发明内容
有鉴于此,本发明提出了一种基于大数据推算开发对象关系的方法及装置,主要目的在于解决如何在大规模复杂的数据场景中分析出数据开发对象之间关系的问题。
依据本发明的第一个方面,本发明提供一种基于大数据推算开发对象关系的方法,包括:
判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;
若所述数据表之间具有血缘关系,则分别获取数据表对应的开发对象信息;
建立所述开发对象信息之间的关联关系。
依据本发明的第二个方面,本发明提供一种基于大数据推算开发对象关系的方法,包括:
统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
依据本发明的第三个方面,本发明提供一种基于大数据推算开发对象关系的装置,包括:
判断单元,用于判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;
获取单元,用于当所述数据表之间具有血缘关系时,分别获取数据表对应的开发对象信息;
建立单元,用于建立所述开发对象信息之间的关联关系。
依据本发明的第四个方面,本发明提供一种基于大数据推算开发对象关系的装置,包括:
第一统计单元,用于统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
第二统计单元,用于统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
第一计算单元,用于根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
第二计算单元,用于根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
第三计算单元,用于根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
借由上述技术方案,本发明实施例提供的一种基于大数据推算开发对象关系的方法及装置,能够在企业大规模的数据场景中,通过判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;当确定所述数据表之间具有血缘关系时,则分别获取数据表对应的开发对象信息;最后根据具有血缘关系的数据表,建立其所对应的开发对象信息之间的关联关系。与现有技术中有关人际关系网和学术关系网的分析方法相比,本发明能够在人与人之间不存在通讯信息的情况下,以及在学术文章署名不存在的情况下,当面向企业数据的开发对象时,能够基于数据之间的血缘关系以及数据所属的开发对象信息,推算出企业数据开发对象之间的关联关系,从而解决在大规模复杂的数据场景中,数据开发对象的依赖关系分析困难的难题,为基于开发对象关系的应用场景奠定基础。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种基于大数据推算开发对象关系的方法的流程示意图;
图2示出了本发明实施例提供的一种对开发对象信息之间的关联关系进行可视化输出后的示意图;
图3示出了本发明实施例提供的另一种基于大数据推算开发对象关系的方法的流程示意图;
图4示出了本发明实施例提供的一种对开发对象之间的关系指数进行可视化输出后的示意图;
图5示出了本发明实施例提供的一种基于大数据推算开发对象关系的装置的组成框图;
图6示出了本发明实施例提供的另一种基于大数据推算开发对象关系的装置的组成框图;
图7示出了本发明实施例提供的另一种基于大数据推算开发对象关系的装置的组成框图;
图8示出了本发明实施例提供的另一种基于大数据推算开发对象关系的装置的组成框图。
具体实施方式
下面将参照附图更加详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
随着大数据时代的到来,企业数据量逐年攀升,基于数据的应用场景逐渐增多,企业数据的开发者也越来越多,了解开发者之间的关系以及依赖情况变得非常重要。但是在大规模复杂的数据场景中,分析数据开发者之间的依赖关系非常困难,并且企业数据开发者之间的关系从未被梳理。
为了解决上述问题,本发明实施例提供了一种基于大数据推算开发对象关系的方法,能够基于数据之间的血缘关系以及数据所属的开发对象信息,推算出企业数据开发对象之间的关联关系。如图1所示,该方法包括:
101、判断数据表之间是否具有血缘关系。
在企业的各种业务活动中,会产生大量的数据,随着大数据应用时代的到来,这些海量的数据通常具有分析价值。在企业数据中,数据与数据之间发生着千丝万缕的关系,基于数据之间的特定关系,本发明实施例抽象出数据血缘。所谓数据血缘,可以理解为基于数据B产生了数据A,那么数据B与数据A即存在事实上的血缘关系。在本发明实施例中,所指的数据是以数据表的形式出现的。由于本发明实施例在推算开发对象关系时,主要依赖于对企业数据的数据血缘进行分析,并结合具有血缘关系的数据所对应的开发对象,推算出开发对象之间的关联关系。因此,本发明实施例在基于大数据推算开发对象关系时,首先需要执行步骤101:判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系。
102、若所述数据表之间具有血缘关系,则分别获取数据表对应的开发对象信息。
通常在企业数据的产生过程中,每个数据表都会对应有相应的开发负责人或开发负责部门,它们可以统称为开发对象,并且在海量的数据表中,数据表与数据表之间也会存在步骤101中所述的血缘关系。而对于开发对象关系而言,开发对象之间的关联关系通常是通过开发对象各自负责的数据表之间的血缘关系建立的。例如,开发对象M负责的绝大多数数据表都与开发对象N负责的数据表具有血缘关系,那么可以认为开发对象M与开发对象N之间的关联关系比较紧密。基于上述原因,本发明实施例在执行完步骤101之后,需要根据步骤101的执行结果,选择性的执行步骤102:若所述数据表之间具有血缘关系,则分别获取数据表对应的开发对象信息。
103、建立所述开发对象信息之间的关联关系。
当通过步骤101确定了数据表之间具有血缘关系,并且通过步骤102获取到具有血缘关系的数据表对应的开发对象信息之后,就可以执行步骤103:建立所述开发对象信息之间的关联关系。在建立所述开发对象信息之间的关联关系时,需要参考所述开发对象各自负责的数据表之间的依赖情况,并将所述依赖情况转换为可以量化的开发对象信息之间的关联关系。例如:在建立开发对象M与开发对象N之间的关联关系时,需要参考开发对象M负责的数据表a、b、c与开发对象N负责的数据表d、e、f之间的依赖情况,所述依赖情况包括:数据表a、b、c与数据表d、e、f之间的依赖次数及依赖数据量,所述依赖次数可以理解为:若数据表a是基于数据表d生成的,那么所述依赖次数是1;若数据表a是基于数据表d生成的、数据表b是基于数据表e生成的、同时数据表c是基于数据表f生成的,那么所述依赖次数是3;所述依赖数据量可以理解为:若数据表a是基于数据表d生成的,那么所述依赖数据量就是数据表d的数据量;若数据表a是基于数据表d生成的、数据表b是基于数据表e生成的、同时数据表c是基于数据表f生成的,那么所述依赖数据量就是数据表d、数据表e以及数据表f的数据量总和。
本发明实施例提供的一种基于大数据推算开发对象关系的方法,能够在企业大规模的数据场景中,通过判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;当确定所述数据表之间具有血缘关系时,则分别获取数据表对应的开发对象信息;最后根据具有血缘关系的数据表,建立其所对应的开发对象信息之间的关联关系。与现有技术中有关人际关系网和学术关系网的分析方法相比,本发明能够在人与人之间不存在通讯信息的情况下,以及在学术文章署名不存在的情况下,当面向企业数据的开发对象时,能够基于数据之间的血缘关系以及数据所属的开发对象信息,推算出企业数据开发对象之间的关联关系,从而解决在大规模复杂的数据场景中,数据开发对象的依赖关系分析困难的难题,为基于开发对象关系的应用场景奠定基础。
为了更好的对上述图1所示的方法进行理解,作为对上述实施方式的细化和扩展,本发明实施例将针对图1中的步骤进行详细说明。
由于在本发明实施例中,数据表之间的血缘关系是指基于一个数据表直接生成另一个数据表的数据生成关系,所述数据表通常存储在关系数据库***中。在企业日常的业务活动过程中,需要对数据库进行查询、更新和管理,并从数据库中存取数据,这些数据通常以数据表的形式存在。在进行数据查询和数据库的管理时,需要使用结构化查询语言(StructuredQuery Language,SQL),结构化查询语言是一种特殊目的的编程语言,可以用于在数据库中存取数据以及查询、更新和管理数据库。在进行数据查询时,会生成查询操作对应的SQL代码,所述SQL代码用于记录以哪个数据表(即上游数据表)中的数据经过何种加工逻辑得到另一个数据表(即下游数据表),所述加工逻辑包括:对数据表中某些字段的数据进行统计,或者涉及数据的加减乘除等操作。其中,SQL代码会记录上游数据表和下游数据表的表名以及它们之间的加工逻辑。基于上述原因,本发明实施例在判断数据表之间是否具有血缘关系时,可以通过对数据加工操作对应的结构化查询语言代码也就是SQL代码进行分析,在对大量的SQL代码进行分析的过程中,若发现SQL代码中记录有数据表之间的加工逻辑,则确定所述数据表之间具有血缘关系,同时还可以得到具有血缘关系的数据表的表名。
在企业数据产生的过程中,由于各个数据表都有对应的开发对象(例如开发负责人或开发负责部门),而企业为了便于管理大量的数据表,明确数据表所属的开发对象,因此在创建数据表时,都会赋予数据表自身的属性信息,也就是数据表的表信息,每个数据表的表信息中都记录有所属数据表的开发对象信息,通过数据表的表信息就可以知道该数据表是由哪个开发对象开发的。因此,当通过分析SQL代码确定了具有血缘关系的数据表之后,就可以从具有血缘关系的数据表各自的表信息中,分别获取具有血缘关系的数据表各自的开发对象信息。这里需要说明的是,若获取的具有血缘关系的数据表各自的开发对象信息是相同的,则说明所述具有血缘关系的数据表都由同一个开发对象开发,而对于同一个开发对象而言,不存在所谓的关联关系。因此,若出现具有血缘关系的数据表各自的开发对象信息相同的情况时,则后续不必建立所述开发对象信息之间的关联关系。
当通过上述方式获取到具有血缘关系的数据表各自的开发对象信息之后,就需要基于所述开发对象信息各自的数据表,建立起所述开发对象信息之间的关联关系。具体的,建立所述开发对象信息之间的关联关系的步骤包括:
(1)统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
在企业的日常业务活动中,对于各个开发者或开发部门而言,在不同的时间段内,其负责的业务会进行调整或变化,因此开发对象之间的关联关系通常不是一成不变的。由于本发明实施例在建立开发对象之间的关联关系时,是基于开发对象各自负责的数据之间的血缘关系进行的,因此,本发明实施例需要根据预设时段内的具有血缘关系的数据,建立开发对象之间的关联关系。首先,要统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数。其中,预设时段可以根据业务的开发运营周期进行设定,若业务开发运营周期时间长并且稳定,那么可以将预设时段设定的较长,例如可以设定预设时段为30天或60天或90天,具体的根据实际业务情况进行设定。所述开发对象之间相互调用数据表的次数,是指在具有血缘关系的数据表各自所属的开发对象之间,以开发对象各自负责的所有数据表为基础,相互调用数据表的次数。例如:具有血缘关系的数据表各自所属的开发对象为开发对象X和开发对象Y,开发对象X负责数据表1、数据表2、数据表3以及数据表4;开发对象Y负责数据表5、数据表6、数据表7以及数据表8;在预设时段内,开发对象X调用数据表5和数据表6各1次,开发对象Y调用数据表3和数据表4各2次,那么在预设时段内开发对象X和开发对象Y之间相互调用数据表的次数就是6次,也就是开发对象X和开发对象Y之间的有效双向依赖次数为6次。
(2)统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
统计所述相互调用数据表的字节数,就是指在具有血缘关系的数据表各自所属的开发对象之间,以开发对象各自负责的所有数据表为基础,相互调用的数据表的字节数。以上述开发对象X和开发对象Y为例,由于开发对象X调用数据表5和数据表6各1次,因此开发对象X调用的字节数就是数据表5和数据表6的字节数之和,开发对象Y调用数据表3和数据表4各2次,因此开发对象Y调用的字节数就是数据表3和数据表4的字节数之和的两倍。所述相互调用数据表的字节数就是开发对象X调用数据表的字节数以及开发对象Y调用数据表的字节数之和,可以记为有效双向依赖字节数。这里需要说明的是,对于开发对象Y调用数据表3和数据表4各2次的情况,在统计开发对象Y调用数据表的字节数时,本发明实施例可以进行去重,直接将数据表3和数据表4的字节数计算1次;而上述给出的在统计开发对象Y调用数据表的字节数时不进行去重,将数据表3和数据表4的字节数计算2次,则最后得到的开发对象之间的关联关系会更加精确。
(3)根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
当统计出具有血缘关系的数据表各自所属的开发对象之间的有效双向依赖次数之后,就可以根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值。其中,所述映射表用于记录依赖次数区间与单次依赖分值之间的对应关系。具体的,在计算有效双向依赖次数对应的依赖次数分值时,需要在所述映射表中查找所述有效双向依赖次数所属的依赖次数区间,并将所述有效双向依赖次数与所述依赖次数区间对应的单次依赖分值相乘,获得所述依赖次数分值。例如:所述映射表如表1所示,
依赖次数区间 单次依赖分值
1-20次 1分
21-100次 0.5分
101-500次 0.05分
大于500次 0.001分
表1
若统计的有效双向依赖次数为25次,则计算得到的依赖次数分值为25*0.5=12.5分。
(4)根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
当统计出具有血缘关系的数据表各自所属的开发对象之间的有效双向依赖字节数之后,就可以根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值。其中,计算公式为将所述有效双向依赖字节数进行预设次数的开方运算,获取所述依赖字节数分值。由于企业数据的数据表的数据量通常非常大,而一个字节表示的数量量又非常小,因此所述有效双向依赖字节数的数值是非常大的,需要进行开方运算得到大小合适的依赖字节数分值。在本发明实施例中,可以根据企业数据的具体情况,将所述有效双向依赖字节数开7次方根,得到依赖字节数分值。
(5)根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
当通过上述方式计算出所述有效双向依赖次数对应的依赖次数分值以及所述有效双向依赖字节数对应的依赖字节数分值之后,就可以根据所述依赖次数分值及所述依赖字节数分值计算出所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。在开发对象之间相互调用数据表的过程中,由于在调用的数据表的字节数中还会存在一些实际上用不到的数据,因此在根据开发对象之间相互调用数据表的情况来确定开发对象的关联关系时,调用数据表的次数的权重要高于调用数据表的字节数的权重。因此,在计算开发对象之间的关系指数时,可以根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数。例如:所述依赖次数分值及所述依赖字节数分值对于确定开发对象之间的关系指数的贡献占比约为6:4,则所述依赖次数分值及所述依赖字节数分值的加权系数分别为0.6和0.4,所述开发对象之间的关系指数=所述依赖次数分值*0.6+所述依赖字节数分值*0.4。
当通过上述方式得到开发对象信息之间的关系强弱之后,就可以对开发对象信息之间的关联关系进行可视化输出。例如,如图2所示,可以将具有血缘关系的数据表所属的开发对象进行连线,根据开发对象之间的关系强弱(关系指数的大小)来调整连线的粗细,连线越粗,说明开发对象之间的关联关系越强,连线越细,说明开发对象之间的关联关系越弱。其中,上述实施例中的开发对象既可以包括个体开发对象,如开发者、开发负责人,也可以包括组织开发对象,如开发部门、开发项目组、开发团队。不论对于个体开发对象还是组织开发对象而言,它们之间的关系指数的计算方法都与本发明实施例中的计算方法相同,只是各项计算因子的统计是在基于个体或者组织下的汇总。
这里需要说明的是,在上述统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数时,以及相互调用数据表的字节数,记为有效双向依赖字节数时,给出的都是一种简便的算法。然而,无论在业务的开发环节还是生产环节都需要对数据表进行调用,因此,为了更精确的统计有效双向依赖次数以及有效双向依赖字节数,从而得到更准确的开发对象之间的关联关系,本发明实施例还提供一种基于大数据推算开发对象关系的方法,如图3所示,该方法包括:
301、统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
302、统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
303、根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
304、根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
305、根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
图3中步骤的具体执行过程在上述“建立所述开发对象信息之间的关联关系的步骤”中有所阐述,此处不再赘述。但是为了更精确的统计有效双向依赖次数以及有效双向依赖字节数,从而得到更准确的开发对象之间的关联关系,本发明实施例还可以通过下述方式获取有效双向依赖次数以及有效双向依赖字节数:
(1)统计在开发环境下所述开发对象之间相互调用数据表的次数以及相互调用数据表的数据表字节数,并分别记为开发环境依赖次数和开发环境依赖字节数;
由于在开发对象之间相互调用数据表的过程中,会存在在开发环境下数据表的调用以及在生产环境下数据表的调用,所述开发环境下数据表的调用是指在业务的代码开发、运行环境搭建、代码编译、代码调试等环境下开发对象之间进行的数据表的调用。开发对象在开发环境下相互之间调用数据表的次数可以记为开发环境依赖次数,开发对象在开发环境下相互调用数据表的字节数可以记为开发环境依赖字节数。
(2)统计在生产环境下所述开发对象之间相互调用数据表的次数以及相互调用数据表的数据表字节数,并分别记为生产环境依赖次数和生产环境依赖字节数;
由于在开发对象之间相互调用数据表的过程中,会存在在开发环境下数据表的调用以及在生产环境下数据表的调用,所述生产环境下数据表的调用是指在业务的代码开发、编译、调试等环节结束后进行正常运行的环境下,开发对象之间进行的数据表的调用。开发对象在生产环境下相互之间调用数据表的次数可以记为生产环境依赖次数,开发对象在生产环境下相互之间调用数据表的字节数可以记为生产环境依赖字节数。
(3)统计所述开发对象之间相互调用数据表时发生调用错误的次数以及发生调用错误的数据表字节数,并分别记为故障次数和故障字节数;
由于在开发对象之间相互调用数据表的过程中,难免会出现数据表调用错误的情况。所述数据表调用错误包括以下几种情况:a)被调用的数据表本身出现错误,导致真实情况下被调用的数据表与调用者之间并不存在有效关系;b)调用操作出现错误,也就是调用数据表时使用的代码出现错误,使得被调用的数据表与调用者实际需要的数据表不符,从而导致被调用的数据表与调用者之间并不存在有效关系。因此,在统计所述开发对象之间相互调用数据表的次数以及相互调用数据表的字节数时,若存在上述任何一种情况,则这些情况下调用数据表的次数都会记为故障次数,被调用的数据表的字节数会被记为故障字节数。与上述统计相互调用数据表的字节数的方法类似,在统计故障字节数时,若多次调用同一个错误的数据表,则在计算故障字节数时,可以将这个错误的数据表进行去重,只将该数据表的字节数计算一次得到故障字节数;当然也可以不进行去重,将该数据表的字节数计算多次得到故障字节数,不进行去重的方式可以使得则最后得到的开发对象之间的关联关系更加精确。以上统计的故障次数和故障字节数通常都被认为是数据表之间的无效调用。
(4)将所述开发环境依赖次数与所述生产环境依赖次数加总,并减去所述故障次数,获得所述有效双向依赖次数;将所述开发环境依赖字节数与所述生产环境依赖字节数加总,并减去所述故障字节数,获得所述有效双向依赖字节数。
这里需要说明的是,由于在企业的业务活动过程中,开发环境通常没有生产环境稳定,因此在开发环境下数据表之间的依赖关系需要打一定的折扣。进一步的,作为另一种实施方式,还可以将基于上述步骤统计的开发环境依赖次数乘以预设的第一折扣率,将开发环境依赖字节数乘以预设的第二折扣率。其中,所述第一折扣率和第二折扣率可以相同,也可以不同。例如:若第一折扣率是7折,则有效双向依赖次数=开发环境依赖次数*0.7+生产环境依赖次数-故障次数;若第二折扣率也为7折,则有效双向依赖字节数=开发环境依赖字节数*0.7+生产环境依赖字节数-故障字节数。
进一步的,由于开发对象之间数据表的调用情况多种多样,因此计算出的开发对象之间的依赖次数分值和依赖字节数分值的大小也多种多样。而在建立开发对象之间的关联关系时,是基于开发对象之间的依赖次数分值和依赖字节数分值得到所述开发对象之间的关系指数的,由关系指数来表征开发对象之间的关系强弱的。因此,为了使开发对象之间的关联关系能够标准化,不至于随着依赖次数分值和依赖字节数分值的不同而***,本发明实施例还可以对依赖次数分值、依赖字节数分值以及开发对象之间的关系指数进行限定。具体的,可以预先设定好第一预设分值、第二预设分值和第三预设分值,当所述依赖次数分值超过第一预设分值时,将所述第一预设分值确定为所述依赖次数分值;当所述依赖字节数分值超过第二预设分值时,将所述第二预设分值确定为所述依赖字节数分值;当所述关系指数超过第三预设分值时,将所述第三预设分值确定为所述关系指数。例如:若第一预设分值为80分,第二预设分值为60分,第三预设分值为100分,则当计算得到的依赖次数分值超过80分时,直接取80分作为最终确定的依赖次数分值,当计算得到的依赖字节数分值超过60分时,直接取60分作为最终确定的依赖字节数分值,并用最终确定的依赖次数分值和最终确定的依赖字节数分值去计算开发对象之间的关系指数,若得到的关系指数不大于100分,则这个分数可以作为开发对象之间最终的关系指数,若得到的关系指数大于100分,则直接取100分作为开发对象之间最终的关系指数。
当计算出开发对象之间的关系指数之后,就可以用关系指数来表征开发对象之间的关联关系强弱。进一步的,为了将开发对象之间的关联关系更加直观的表现出来,本发明实施例还可以对开发对象之间的关联关系进行可视化输出。具体的,可视化输出可以包括:将具有血缘关系的数据表所属的开发对象进行连线,并把计算得到的所述开发对象之间的关系指数标记在连线上;进一步的,还可以根据关系指数的大小来调整连线的粗细,连线越粗,说明开发对象之间的关联关系越强;同时如图4所示,还可以利用故障次数或者故障字节数来计算故障率,并根据故障率的大小来调整连线的波动振幅,连线的波动振幅越大,说明开发对象之间的关联关系越不稳定。其中,故障率=故障次数/(开发环境依赖次数+生产环境依赖次数);或者,故障率=故障字节数/(开发环境依赖字节数+生产环境依赖字节数)。
这里需要说明的是,在以上所述的各种实施例中,开发对象既可以包括个体开发对象,如开发者、开发负责人,也可以包括组织开发对象,如开发部门、开发项目组、开发团队。不论对于个体开发对象还是组织开发对象而言,它们之间的关系指数的计算方法都与本发明实施例中的计算方法相同,只是各项计算因子的统计是在基于个体或者组织下的汇总。
进一步的,作为对上述图1所示方法的实现,本发明实施例提供了一种基于大数据推算开发对象关系的装置,如图5所示,该装置包括:判断单元51、获取单元52以及建立单元53,其中,
判断单元51,用于判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;
获取单元52,用于当所述数据表之间具有血缘关系时,分别获取数据表对应的开发对象信息;
建立单元53,用于建立所述开发对象信息之间的关联关系。
进一步的,如图6所示,判断单元51包括:
分析模块511,用于对数据加工操作对应的结构化查询语言代码进行分析;
确定模块512,用于当所述结构化查询语言代码中记录有所述数据表之间的加工逻辑时,确定所述数据表之间具有血缘关系。
进一步的,获取单元52用于从数据表的表信息中获取所述开发对象信息。
进一步的,如图6所示,所述装置进一步包括:
取消单元54,用于当获取的开发对象信息相同时,取消建立所述开发对象信息之间的关联关系。
进一步的,如图6所示,建立单元53包括:
第一统计模块531,用于统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
第二统计模块532,用于统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
第一计算模块533,用于根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
第二计算模块534,用于根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
第三计算模块535,用于根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
进一步的,如图6所示,所述装置进一步包括:
第一输出单元55,用于对所述开发对象信息之间的关联关系进行可视化输出。
进一步的,获取单元52获取的开发对象信息中的开发对象包括:个体开发对象及组织开发对象。
进一步的,作为对上述图3所示方法的实现,本发明实施例提供了一种基于大数据推算开发对象关系的装置,如图7所示,该装置包括:第一统计单元71、第二统计单元72、第一计算单元73、第二计算单元74以及第三计算单元75,其中,
第一统计单元71,用于统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
第二统计单元72,用于统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
第一计算单元73,用于根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
第二计算单元74,用于根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
第三计算单元75,用于根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
进一步的,第一统计单元71用于统计在开发环境下所述开发对象之间相互调用数据表的次数,记为开发环境依赖次数;第一统计单元71还用于统计在生产环境下所述开发对象之间相互调用数据表的次数,记为生产环境依赖次数;第一统计单元71还用于统计所述开发对象之间相互调用数据表时发生调用错误的次数,记为故障次数;第一统计单元71还用于将所述开发环境依赖次数与所述生产环境依赖次数加总,并减去所述故障次数,获得所述有效双向依赖次数。
进一步的,第一统计单元71还用于将所述开发环境依赖次数乘以预设的第一折扣率。
进一步的,第二统计单元72用于统计在开发环境下所述开发对象之间相互调用数据表的数据表字节数,记为开发环境依赖字节数;第二统计单元72还用于统计在生产环境下所述开发对象之间相互调用数据表的数据表字节数,记为生产环境依赖字节数;第二统计单元72还用于统计所述开发对象之间相互调用数据表时发生调用错误的数据表字节数,记为故障字节数;第二统计单元72还用于将所述开发环境依赖字节数与所述生产环境依赖字节数加总,并减去所述故障字节数,获得所述有效双向依赖字节数。
进一步的,第二统计单元72还用于将所述开发环境依赖字节数乘以预设的第二折扣率。
进一步的,第一计算单元73根据的所述映射表用于记录依赖次数区间与单次依赖分值之间的对应关系;第一计算单元73用于在所述映射表中查找所述有效双向依赖次数所属的依赖次数区间;第一计算单元73还用于将所述有效双向依赖次数与所述依赖次数区间对应的单次依赖分值相乘,获得所述依赖次数分值。
进一步的,第二计算单元74用于对所述有效双向依赖字节数进行预设次数的开方运算,获得所述依赖字节数分值。
进一步的,如图8所示,该装置进一步包括:
第一确定单元76,用于当所述依赖次数分值超过第一预设分值时,将所述第一预设分值确定为所述依赖次数分值;
第二确定单元77,用于当所述依赖字节数分值超过第二预设分值时,将所述第二预设分值确定为所述依赖字节数分值;
第三确定单元78,用于当所述关系指数超过第三预设分值时,将所述第三预设分值确定为所述关系指数。
进一步的,如图8所示,该装置进一步包括:
第二输出单元79,用于对所述开发对象之间的关系指数进行可视化输出。
进一步的,该装置推算的开发对象关系中的开发对象包括:个体开发对象及组织开发对象。
本发明实施例提供的一种基于大数据推算开发对象关系的装置,能够在企业大规模的数据场景中,通过判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;当确定所述数据表之间具有血缘关系时,则分别获取数据表对应的开发对象信息;最后根据具有血缘关系的数据表,建立其所对应的开发对象信息之间的关联关系。与现有技术中有关人际关系网和学术关系网的分析方法相比,本发明能够在人与人之间不存在通讯信息的情况下,以及在学术文章署名不存在的情况下,当面向企业数据的开发对象时,能够基于数据之间的血缘关系以及数据所属的开发对象信息,推算出企业数据开发对象之间的关联关系,从而解决在大规模复杂的数据场景中,数据开发对象的依赖关系分析困难的难题,为基于开发对象关系的应用场景奠定基础。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
可以理解的是,上述方法及装置中的相关特征可以相互参考。另外,上述实施例中的“第一”、“第二”等是用于区分各实施例,而并不代表各实施例的优劣。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在此提供的算法和显示不与任何特定计算机、虚拟***或者其它设备固有相关。各种通用***也可以与基于在此的示教一起使用。根据上面的描述,构造这类***所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的发明名称(如确定网站内链接等级的装置)中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (34)

1.一种基于大数据推算开发对象关系的方法,其特征在于,所述方法包括:
判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;
若所述数据表之间具有血缘关系,则分别获取数据表对应的开发对象信息;
建立所述开发对象信息之间的关联关系。
2.根据权利要求1所述的方法,其特征在于,所述判断数据表之间是否具有血缘关系,包括:
对数据加工操作对应的结构化查询语言代码进行分析;
若所述结构化查询语言代码中记录有所述数据表之间的加工逻辑,则确定所述数据表之间具有血缘关系。
3.根据权利要求1所述的方法,其特征在于,所述分别获取数据表对应的开发对象信息,包括:
从数据表的表信息中获取所述开发对象信息。
4.根据权利要求1所述的方法,其特征在于,若获取的开发对象信息相同,则取消建立所述开发对象信息之间的关联关系。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所述建立所述开发对象信息之间的关联关系,进一步包括:
统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述方法进一步包括:
对所述开发对象信息之间的关联关系进行可视化输出。
7.根据权利要求1-6中任一项所述的方法,其特征在于,开发对象包括:
个体开发对象及组织开发对象。
8.一种基于大数据推算开发对象关系的方法,其特征在于,所述方法包括:
统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
9.根据权利要求8所述的方法,其特征在于,所述统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数,包括:
统计在开发环境下所述开发对象之间相互调用数据表的次数,记为开发环境依赖次数;
统计在生产环境下所述开发对象之间相互调用数据表的次数,记为生产环境依赖次数;
统计所述开发对象之间相互调用数据表时发生调用错误的次数,记为故障次数;
将所述开发环境依赖次数与所述生产环境依赖次数加总,并减去所述故障次数,获得所述有效双向依赖次数。
10.根据权利要求9所述的方法,其特征在于,所述方法进一步包括:
将所述开发环境依赖次数乘以预设的第一折扣率。
11.根据权利要求8所述的方法,其特征在于,所述统计所述相互调用数据表的字节数,记为有效双向依赖字节数,包括:
统计在开发环境下所述开发对象之间相互调用数据表的数据表字节数,记为开发环境依赖字节数;
统计在生产环境下所述开发对象之间相互调用数据表的数据表字节数,记为生产环境依赖字节数;
统计所述开发对象之间相互调用数据表时发生调用错误的数据表字节数,记为故障字节数;
将所述开发环境依赖字节数与所述生产环境依赖字节数加总,并减去所述故障字节数,获得所述有效双向依赖字节数。
12.根据权利要求11所述的方法,其特征在于,所述方法进一步包括:
将所述开发环境依赖字节数乘以预设的第二折扣率。
13.根据权利要求8所述的方法,其特征在于,所述映射表用于记录依赖次数区间与单次依赖分值之间的对应关系;
所述根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值,包括:
在所述映射表中查找所述有效双向依赖次数所属的依赖次数区间;
将所述有效双向依赖次数与所述依赖次数区间对应的单次依赖分值相乘,获得所述依赖次数分值。
14.根据权利要求8所述的方法,其特征在于,所述根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值,包括:
对所述有效双向依赖字节数进行预设次数的开方运算,获得所述依赖字节数分值。
15.根据权利要求8所述的方法,其特征在于,所述方法进一步包括:
若所述依赖次数分值超过第一预设分值,则将所述第一预设分值确定为所述依赖次数分值;
若所述依赖字节数分值超过第二预设分值,则将所述第二预设分值确定为所述依赖字节数分值;
若所述关系指数超过第三预设分值,则将所述第三预设分值确定为所述关系指数。
16.根据权利要求8至15中任一项所述的方法,其特征在于,所述方法进一步包括:
对所述开发对象之间的关系指数进行可视化输出。
17.根据权利要求8至16中任一项所述的方法,其特征在于,开发对象包括:
个体开发对象及组织开发对象。
18.一种基于大数据推算开发对象关系的装置,其特征在于,所述装置包括:
判断单元,用于判断数据表之间是否具有血缘关系,所述血缘关系为基于一个数据表直接生成另一个数据表的数据生成关系;
获取单元,用于当所述数据表之间具有血缘关系时,分别获取数据表对应的开发对象信息;
建立单元,用于建立所述开发对象信息之间的关联关系。
19.根据权利要求18所述的装置,其特征在于,所述判断单元包括:
分析模块,用于对数据加工操作对应的结构化查询语言代码进行分析;
确定模块,用于当所述结构化查询语言代码中记录有所述数据表之间的加工逻辑时,确定所述数据表之间具有血缘关系。
20.根据权利要求18所述的装置,其特征在于,所述获取单元用于从数据表的表信息中获取所述开发对象信息。
21.根据权利要求18所述的装置,其特征在于,所述装置进一步包括:
取消单元,用于当获取的开发对象信息相同时,取消建立所述开发对象信息之间的关联关系。
22.根据权利要求18-21中任一项所述的装置,其特征在于,所述建立单元包括:
第一统计模块,用于统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
第二统计模块,用于统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
第一计算模块,用于根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
第二计算模块,用于根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
第三计算模块,用于根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
23.根据权利要求18至22中任一项所述的装置,其特征在于,所述装置进一步包括:
第一输出单元,用于对所述开发对象信息之间的关联关系进行可视化输出。
24.根据权利要求18-23中任一项所述的装置,其特征在于,所述获取单元获取的开发对象信息中的开发对象包括:个体开发对象及组织开发对象。
25.一种基于大数据推算开发对象关系的装置,其特征在于,所述装置包括:
第一统计单元,用于统计在预设时段内开发对象之间相互调用数据表的次数,记为有效双向依赖次数;
第二统计单元,用于统计所述相互调用数据表的字节数,记为有效双向依赖字节数;
第一计算单元,用于根据预设的映射表计算所述有效双向依赖次数对应的依赖次数分值;
第二计算单元,用于根据预设的计算公式计算所述有效双向依赖字节数对应的依赖字节数分值;
第三计算单元,用于根据预设的加权系数对所述依赖次数分值及所述依赖字节数分值进行加总,获得所述开发对象之间的关系指数,所述关系指数用于表征所述开发对象之间的关系强弱。
26.根据权利要求25所述的装置,其特征在于,
所述第一统计单元用于统计在开发环境下所述开发对象之间相互调用数据表的次数,记为开发环境依赖次数;
所述第一统计单元还用于统计在生产环境下所述开发对象之间相互调用数据表的次数,记为生产环境依赖次数;
所述第一统计单元还用于统计所述开发对象之间相互调用数据表时发生调用错误的次数,记为故障次数;
所述第一统计单元还用于将所述开发环境依赖次数与所述生产环境依赖次数加总,并减去所述故障次数,获得所述有效双向依赖次数。
27.根据权利要求26所述的装置,其特征在于,所述第一统计单元还用于将所述开发环境依赖次数乘以预设的第一折扣率。
28.根据权利要求25所述的装置,其特征在于,
所述第二统计单元用于统计在开发环境下所述开发对象之间相互调用数据表的数据表字节数,记为开发环境依赖字节数;
所述第二统计单元还用于统计在生产环境下所述开发对象之间相互调用数据表的数据表字节数,记为生产环境依赖字节数;
所述第二统计单元还用于统计所述开发对象之间相互调用数据表时发生调用错误的数据表字节数,记为故障字节数;
所述第二统计单元还用于将所述开发环境依赖字节数与所述生产环境依赖字节数加总,并减去所述故障字节数,获得所述有效双向依赖字节数。
29.根据权利要求28所述的装置,其特征在于,所述第二统计单元还用于将所述开发环境依赖字节数乘以预设的第二折扣率。
30.根据权利要求25所述的装置,其特征在于,
所述第一计算单元根据的所述映射表用于记录依赖次数区间与单次依赖分值之间的对应关系;
所述第一计算单元用于在所述映射表中查找所述有效双向依赖次数所属的依赖次数区间;
所述第一计算单元还用于将所述有效双向依赖次数与所述依赖次数区间对应的单次依赖分值相乘,获得所述依赖次数分值。
31.根据权利要求25所述的装置,其特征在于,所述第二计算单元用于对所述有效双向依赖字节数进行预设次数的开方运算,获得所述依赖字节数分值。
32.根据权利要求25所述的装置,其特征在于,所述装置进一步包括:
第一确定单元,用于当所述依赖次数分值超过第一预设分值时,将所述第一预设分值确定为所述依赖次数分值;
第二确定单元,用于当所述依赖字节数分值超过第二预设分值时,将所述第二预设分值确定为所述依赖字节数分值;
第三确定单元,用于当所述关系指数超过第三预设分值时,将所述第三预设分值确定为所述关系指数。
33.根据权利要求25-32中任一项所述的装置,其特征在于,所述装置进一步包括:
第二输出单元,用于对所述开发对象之间的关系指数进行可视化输出。
34.根据权利要求25-33中任一项所述的装置,其特征在于,所述开发对象包括:个体开发对象及组织开发对象。
CN201610183199.5A 2016-03-28 2016-03-28 基于大数据推算开发对象关系的方法及装置 Active CN107239458B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN201610183199.5A CN107239458B (zh) 2016-03-28 2016-03-28 基于大数据推算开发对象关系的方法及装置
TW106105605A TWI736587B (zh) 2016-03-28 2017-02-20 基於大數據推算開發對象關係的方法及裝置
PCT/CN2017/076892 WO2017167022A1 (zh) 2016-03-28 2017-03-16 基于大数据推算开发对象关系的方法及装置
EP17773052.0A EP3418910A4 (en) 2016-03-28 2017-03-16 METHOD AND DEVICE BASED ON MEGADONNES FOR CALCULATING A RELATION BETWEEN DEVELOPMENT OBJECTS
US16/142,617 US20190026358A1 (en) 2016-03-28 2018-09-26 Big data-based method and device for calculating relationship between development objects

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610183199.5A CN107239458B (zh) 2016-03-28 2016-03-28 基于大数据推算开发对象关系的方法及装置

Publications (2)

Publication Number Publication Date
CN107239458A true CN107239458A (zh) 2017-10-10
CN107239458B CN107239458B (zh) 2021-01-29

Family

ID=59963423

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610183199.5A Active CN107239458B (zh) 2016-03-28 2016-03-28 基于大数据推算开发对象关系的方法及装置

Country Status (5)

Country Link
US (1) US20190026358A1 (zh)
EP (1) EP3418910A4 (zh)
CN (1) CN107239458B (zh)
TW (1) TWI736587B (zh)
WO (1) WO2017167022A1 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109614433A (zh) * 2018-12-13 2019-04-12 杭州数梦工场科技有限公司 业务***间数据血缘的识别方法、装置、设备及存储介质
CN109963276A (zh) * 2017-12-26 2019-07-02 恒为科技(上海)股份有限公司 一种话单数据处理方法及装置
CN110262803A (zh) * 2019-06-30 2019-09-20 潍柴动力股份有限公司 一种依赖关系的生成方法及装置
CN110309314A (zh) * 2018-03-23 2019-10-08 中移(苏州)软件技术有限公司 一种血缘关系图的生成方法、装置、电子设备及存储介质
CN111858065A (zh) * 2020-07-28 2020-10-30 中国平安财产保险股份有限公司 数据处理方法、设备、存储介质及装置
CN112131215A (zh) * 2019-06-25 2020-12-25 ***通信集团重庆有限公司 自底向上的数据库信息获取方法及装置
CN112711591A (zh) * 2020-12-31 2021-04-27 天云融创数据科技(北京)有限公司 基于知识图谱的字段级的数据血缘确定方法及装置
CN113760476A (zh) * 2020-06-04 2021-12-07 广州虎牙信息科技有限公司 任务依赖处理方法及相关装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108256113B (zh) * 2018-02-09 2020-06-16 口碑(上海)信息技术有限公司 数据血缘关系的挖掘方法及装置
US11042911B1 (en) * 2018-02-28 2021-06-22 EMC IP Holding Company LLC Creation of high value data assets from undervalued data
CN110221818A (zh) * 2019-04-19 2019-09-10 新智云数据服务有限公司 数据关系的处理方法及***
CN110399423A (zh) * 2019-07-24 2019-11-01 北京明略软件***有限公司 元数据血缘关系的处理方法及装置、存储介质和电子装置
CN112256721B (zh) * 2020-10-21 2021-08-17 平安科技(深圳)有限公司 Sql语句解析方法、***、计算机设备和存储介质
CN114328471B (zh) * 2022-03-14 2022-07-12 杭州半云科技有限公司 一种基于数据虚拟化引擎的数据模型及其构建方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1289424A (zh) * 1998-10-30 2001-03-28 国际商业机器公司 用于完成序列同源性检测的方法和装置
CN101055568A (zh) * 2007-05-25 2007-10-17 金蝶软件(中国)有限公司 一种电子数据表的计算方法和装置
CN101201912A (zh) * 2006-12-15 2008-06-18 财团法人工业技术研究院 关连***的执行方法与***
US20090063402A1 (en) * 2007-08-31 2009-03-05 Abbott Diabetes Care, Inc. Method and System for Providing Medication Level Determination
US20090176444A1 (en) * 2008-01-08 2009-07-09 Disco Corporation Wafer polishing method and apparatus
US20120110021A1 (en) * 2010-10-28 2012-05-03 Microsoft Corporation Generating data models
CN103617185A (zh) * 2013-11-07 2014-03-05 宁波保税区攀峒信息科技有限公司 一种综合亲缘关系数据库构建方法和装置
CN103699534A (zh) * 2012-09-27 2014-04-02 腾讯科技(深圳)有限公司 ***目录中数据对象的显示方法及装置
CN103902653A (zh) * 2014-02-28 2014-07-02 珠海多玩信息技术有限公司 一种构建数据仓库表血缘关系图的方法和装置
US20140324668A1 (en) * 2011-02-02 2014-10-30 Chicago Mercantile Exchange Inc. Trade Matching Platform with Variable Pricing Based on Clearing Relationships
US20150379085A1 (en) * 2014-06-27 2015-12-31 Microsoft Corporation Rule-based joining of foreign to primary key

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009010948A1 (en) * 2007-07-18 2009-01-22 Famillion Ltd. Method and system for use of a database of personal data records
US20110167402A1 (en) * 2010-01-02 2011-07-07 Shahbaz Ahmad Generic Framework for Accelerated Development of Automated Software Solutions
CN102448048A (zh) * 2011-09-20 2012-05-09 宇龙计算机通信科技(深圳)有限公司 终端和数据管理方法
KR20140005474A (ko) * 2012-07-04 2014-01-15 한국전자통신연구원 빅데이터 처리를 위한 애플리케이션 제공 장치 및 제공 방법
TW201514731A (zh) * 2013-10-08 2015-04-16 Learningtech Corp 專利篩選系統及方法及電腦程式產品
US10354190B2 (en) * 2014-06-09 2019-07-16 Cognitive Scale, Inc. Method for using hybrid data architecture having a cognitive data management module within a cognitive environment
CN104156798B (zh) * 2014-07-08 2017-12-01 四川中电启明星信息技术有限公司 企业权威源***数据实时推送方法
CN104615699B (zh) * 2015-01-27 2017-10-27 武汉聚脉网络科技有限公司 一种家族网谱***及其数据采集方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1289424A (zh) * 1998-10-30 2001-03-28 国际商业机器公司 用于完成序列同源性检测的方法和装置
CN101201912A (zh) * 2006-12-15 2008-06-18 财团法人工业技术研究院 关连***的执行方法与***
CN101055568A (zh) * 2007-05-25 2007-10-17 金蝶软件(中国)有限公司 一种电子数据表的计算方法和装置
US20090063402A1 (en) * 2007-08-31 2009-03-05 Abbott Diabetes Care, Inc. Method and System for Providing Medication Level Determination
US20090176444A1 (en) * 2008-01-08 2009-07-09 Disco Corporation Wafer polishing method and apparatus
US20120110021A1 (en) * 2010-10-28 2012-05-03 Microsoft Corporation Generating data models
US20140324668A1 (en) * 2011-02-02 2014-10-30 Chicago Mercantile Exchange Inc. Trade Matching Platform with Variable Pricing Based on Clearing Relationships
CN103699534A (zh) * 2012-09-27 2014-04-02 腾讯科技(深圳)有限公司 ***目录中数据对象的显示方法及装置
CN103617185A (zh) * 2013-11-07 2014-03-05 宁波保税区攀峒信息科技有限公司 一种综合亲缘关系数据库构建方法和装置
CN103902653A (zh) * 2014-02-28 2014-07-02 珠海多玩信息技术有限公司 一种构建数据仓库表血缘关系图的方法和装置
US20150379085A1 (en) * 2014-06-27 2015-12-31 Microsoft Corporation Rule-based joining of foreign to primary key

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
YAN WANG: "FlexTable: Using a Dynamic Relation Model to Store RDF Data", 《DATABASE SYSTEMS FOR ADVANCED APPLICATIONS, 15TH INTERNATIONAL CONFERENCE》 *
吉雍慧: "数字图书馆中的检索结果聚类和关联推荐研究", 《现代图书情报技术》 *
姜振华: "基于血缘关系的数据分析方法的建立", 《科技情报开发与经济》 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109963276A (zh) * 2017-12-26 2019-07-02 恒为科技(上海)股份有限公司 一种话单数据处理方法及装置
CN110309314A (zh) * 2018-03-23 2019-10-08 中移(苏州)软件技术有限公司 一种血缘关系图的生成方法、装置、电子设备及存储介质
CN110309314B (zh) * 2018-03-23 2021-06-29 中移(苏州)软件技术有限公司 一种血缘关系图的生成方法、装置、电子设备及存储介质
CN109614433B (zh) * 2018-12-13 2022-02-15 杭州数梦工场科技有限公司 业务***间数据血缘的识别方法、装置、设备及存储介质
CN109614433A (zh) * 2018-12-13 2019-04-12 杭州数梦工场科技有限公司 业务***间数据血缘的识别方法、装置、设备及存储介质
CN112131215A (zh) * 2019-06-25 2020-12-25 ***通信集团重庆有限公司 自底向上的数据库信息获取方法及装置
CN112131215B (zh) * 2019-06-25 2023-09-19 ***通信集团重庆有限公司 自底向上的数据库信息获取方法及装置
CN110262803A (zh) * 2019-06-30 2019-09-20 潍柴动力股份有限公司 一种依赖关系的生成方法及装置
CN110262803B (zh) * 2019-06-30 2023-04-18 潍柴动力股份有限公司 一种依赖关系的生成方法及装置
CN113760476A (zh) * 2020-06-04 2021-12-07 广州虎牙信息科技有限公司 任务依赖处理方法及相关装置
CN113760476B (zh) * 2020-06-04 2024-02-09 广州虎牙信息科技有限公司 任务依赖处理方法及相关装置
CN111858065A (zh) * 2020-07-28 2020-10-30 中国平安财产保险股份有限公司 数据处理方法、设备、存储介质及装置
CN112711591A (zh) * 2020-12-31 2021-04-27 天云融创数据科技(北京)有限公司 基于知识图谱的字段级的数据血缘确定方法及装置

Also Published As

Publication number Publication date
EP3418910A1 (en) 2018-12-26
US20190026358A1 (en) 2019-01-24
TWI736587B (zh) 2021-08-21
CN107239458B (zh) 2021-01-29
WO2017167022A1 (zh) 2017-10-05
TW201737116A (zh) 2017-10-16
EP3418910A4 (en) 2019-10-30

Similar Documents

Publication Publication Date Title
CN107239458A (zh) 基于大数据推算开发对象关系的方法及装置
CN105718515B (zh) 数据存储***及其方法和数据分析***及其方法
US10452625B2 (en) Data lineage analysis
US20140052695A1 (en) Systems and methods for capturing data refinement actions based on visualized search of information
CN107958007A (zh) 病例信息检索方法及装置
CN106933906B (zh) 数据多维度的查询方法及装置
CN106600344A (zh) 目标产品活跃用户数据获取方法和装置
CN106384273A (zh) 恶意刷单检测***及方法
WO2016115944A1 (zh) 网页质量模型的建立方法及装置
CN106250519A (zh) 用于并行数据库的数据查询方法和装置
US20180189871A1 (en) Systems and methods for cross-platform batch data processing
CN110489653A (zh) 舆情信息查询方法和装置、***、电子设备、存储介质
CN106528778A (zh) 用户留存类数据获取方法及装置
CN108564255A (zh) 匹配模型构建方法、孤儿单分配方法、装置、介质及终端
CN111047426A (zh) 一种基于资金交易的可疑账户分析方法、***及存储介质
CN107688589A (zh) 数据库***优化的方法及装置
CN106682507A (zh) 病毒库的获取方法及装置、设备、服务器、***
Hook et al. Internal validity analysis: a method for adjusting capture-recapture estimates of prevalence
CN113538137A (zh) 一种基于双图谱融合计算的资金流监控方法及装置
CN105242873B (zh) 云计算***的性能数据的采集与存储方法及装置
CN111028088A (zh) 一种基于频繁集挖掘的团伙骗保行为识别方法与***
CN108345658A (zh) 算法计算轨迹的分解处理方法、服务器及存储介质
CN111523921B (zh) 漏斗分析方法、分析设备、电子设备及可读存储介质
US20140101159A1 (en) Knowledgebase Query Analysis
CN111754340A (zh) 一种基于图数据库的担保网络风险排查***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant