CN115033634A - 数据采集方法、装置、电子设备和介质 - Google Patents

数据采集方法、装置、电子设备和介质 Download PDF

Info

Publication number
CN115033634A
CN115033634A CN202210808024.4A CN202210808024A CN115033634A CN 115033634 A CN115033634 A CN 115033634A CN 202210808024 A CN202210808024 A CN 202210808024A CN 115033634 A CN115033634 A CN 115033634A
Authority
CN
China
Prior art keywords
attribute information
determining
target
target object
objects
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210808024.4A
Other languages
English (en)
Inventor
吕伍
李学智
吕志威
李立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCB Finetech Co Ltd
Original Assignee
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCB Finetech Co Ltd filed Critical CCB Finetech Co Ltd
Priority to CN202210808024.4A priority Critical patent/CN115033634A/zh
Publication of CN115033634A publication Critical patent/CN115033634A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/3668—Software testing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/538—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/30—Creation or generation of source code
    • G06F8/38—Creation or generation of source code for implementing user interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G06F8/42—Syntactic analysis
    • G06F8/427—Parsing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据采集方法、装置、设备、存储介质和程序产品，涉及计算机技术领域，可以应用于金融技术领域。该方法包括：响应于接收到采集数据请求，确定与采集数据请求对应的目标对象和目标任务类型；基于对象模型结构，针对目标对象确定与目标任务类型对应的属性信息；调取与属性信息对应的脚本，得到采集数据；以及根据采集数据生成与目标对象对应的图像；其中，对象模型结构包括多个对象和与多个对象分别对应的多个属性信息，属性信息分别与对象和任务类型具有映射关系，对象包括操作***、数据库、中间件以及应用程序中的一种或多种。

Description

数据采集方法、装置、电子设备和介质
技术领域
本公开涉及计算机技术领域，可以应用于金融技术领域，更具体地涉及一种数据采集方法、装置、设备、介质和程序产品。
背景技术
目前，企业使用运维***时，通常先通过人工在页面上手动添加运维对象模型，然后根据定义的对象模型编写对应的脚本。再采集和分析数据，得到分析结果，存入数据库中进行管理或使用。
然而，上述这种手动配置的方式需要耗费较多的时间，且容易出错。此外，对象模型是用户输入的，根据添加的对象模型编写数据采集和处理脚本的相关程序由后端程序员完成，关于模型存在着沟通障碍，由于对模型的理解差异，导致对象模型和实际对象数据会出现不一致的问题，很容易引起***问题。
发明内容
鉴于上述问题，本公开提供了数据采集方法、装置、设备、介质和程序产品，可以使属性信息与采集数据的结果是对应一致的，避免对象模型和实际对象数据不一致的问题，具有自动化、智能化、且采集数据准确性高的优点。
根据本公开的第一个方面，提供了一种数据采集方法，包括：响应于接收到采集数据请求，确定与所述采集数据请求对应的目标对象和目标任务类型；基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息；调取与所述属性信息对应的脚本，得到采集数据；以及根据所述采集数据生成与所述目标对象对应的图像；其中，所述对象模型结构包括多个对象和与所述多个对象分别对应的多个属性信息，所述属性信息分别与对象和任务类型具有映射关系，所述对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
根据本公开实施例，所述基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息，包括：基于对象模型结构，针对所述目标对象确定第一子属性信息；确定与所述目标任务类型对应的第二子属性信息；以及根据所述第一子属性信息与所述第二子属性信息的匹配结果，确定第三子属性信息。
根据本公开实施例，所述根据所述采集数据生成与所述目标对象对应的图像，包括：调取针对所述目标对象的解析规则，对所述采集数据进行解析得到解析结果；以及根据所述解析结果，生成与所述目标对象对应的图像。
根据本公开实施例，数据采集方法还包括：响应于接收到来自用户的页面展示请求，确定与所述页面展示请求对应的目标对象；根据与所述目标对象对应的图像，确定渲染控件；根据所述渲染控件渲染待渲染视图，得到目标页面；以及向用户展示所述目标页面。
根据本公开实施例，所述对象模型结构包括对象模型表和采集脚本表；其中，所述对象模型表用于存储所述多个对象和与所述多个对象分别对应的多个属性信息，所述采集脚本表用于存储与所述多个属性信息分别对应的多个脚本。
本公开的第二方面提供了一种数据采集装置，包括：接收模块，用于响应于接收到采集数据请求，确定与所述采集数据请求对应的目标对象和目标任务类型；确定模块，用于基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息；采集模块，用于调取与所述属性信息对应的脚本，得到采集数据；以及生成模块，用于根据所述采集数据生成与所述目标对象对应的图像；其中，所述对象模型结构包括多个对象和与所述多个对象分别对应的多个属性信息，所述属性信息分别与对象和任务类型具有映射关系，所述对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器执行上述数据采集方法。
本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述数据采集方法。
本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述数据采集方法。
本实施例提供的数据采集方法，可以使属性信息与采集数据的结果是对应一致的，避免对象模型和实际对象数据不一致的问题，具有自动化、智能化、且采集数据准确性高的优点。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本公开实施例的数据采集方法、装置、设备、介质和程序产品的应用场景图；
图2示意性示出了根据本公开实施例的数据采集方法的流程图；
图3示意性示出了根据本公开实施例的展示目标页面的执行示意图；
图4示意性示出了根据本公开实施例的确定第二目标虚拟机设备的流程示意图；
图5示意性示出了根据本公开另一实施例的数据采集方法的流程图；以及
图6示意性示出了根据本公开实施例的适于实现数据采集方法的电子设备的方框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。
本公开的实施例提供了一种数据采集方法和装置，响应于接收到采集数据请求，确定与采集数据请求对应的目标对象和目标任务类型；基于对象模型结构，针对目标对象确定与目标任务类型对应的属性信息；调取与属性信息对应的脚本，得到采集数据；以及根据采集数据生成与目标对象对应的图像；其中，对象模型结构包括多个对象和与多个对象分别对应的多个属性信息，属性信息分别与对象和任务类型具有映射关系，对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
图1示意性示出了根据本公开实施例的数据采集方法、装置、设备、介质和程序产品的应用场景图。
如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是，本公开实施例所提供的数据采集方法一般可以由服务器105执行。相应地，本公开实施例所提供的数据采集装置一般可以设置于服务器105中。本公开实施例所提供的数据采集方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据采集装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景，通过图2对公开实施例的数据采集方法进行详细描述。
图2示意性示出了根据本公开实施例的数据采集方法的流程图。
如图2所示，该实施例包括操作S210～操作S240，该数据采集方法可以通过服务器执行。
在本公开的技术方案中，对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。
在操作S210，响应于接收到采集数据请求，确定与采集数据请求对应的目标对象和目标任务类型。
在操作S220，基于对象模型结构，针对目标对象确定与目标任务类型对应的属性信息。
对象模型结构包括多个对象和与多个对象分别对应的多个属性信息，属性信息分别与对象和任务类型具有映射关系，对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
在操作S230，调取与属性信息对应的脚本，得到采集数据。
在操作S240，根据采集数据生成与目标对象对应的图像。
对象可以是运维对象，例如操作***、数据库、中间件、应用程序等。运维对象还可以如：1)某机房环境基础设施部分，可以是为保障数据中心所管理设备正常运行所必需的网络通信、电力资源、环境资源等；2)可以是提供IT服务过程中所应用的各种设备，如存储、服务器、网络设备、安全设备等硬件资源；3)可以是***与数据，如操作***、数据库、中间件、应用程序等软件资源；还可以是业务数据、配置文件、日志等各类数据；4)可以是管理工具，例如基础设施监控软件、监控软件、工作流管理平台、报表平台、***等。
任务可以根据实际需求进行设置和调整，例如测试任务、稳定性检测任务、性能优化任务、扩容任务、迁移任务等等。
属性信息，可以表示对象模型，可以是针对对象的各个属性定义，可以包括属性字段名、中文意义等信息。例如操作***、中间件、交换机、麒麟***等。
数据采集若通过人工收到配置，容易耗费大量时间，且容易出错。一般数据的采集和处理依赖于录入的属性信息，若仅根据用户添加的属性信息，确定数据采集和处理脚本，则容易导致实际采集的数据背离实际的属性信息。如果将数据采集和属性信息放在一起，共同维护，则有利于实际采集的数据与实际的属性信息相对应，具有一致性。例如，可以采用脚本工艺得到与预定义规范对应的脚本文件。文件中可以包括对属性信息的描述和采集数据的执行脚本。上传脚本后，提取出属性信息和对象等信息，存入数据库。也可以将脚本内容存入数据库供采集数据时使用。
针对对象模型结构，即对象模型数据库，需要说明的是，该对象模型结构主要用于存储与对象对应的属性信息。例如响应于接收到上传的脚本，对该脚本进行解析，抽取注释内容的各个字段属性和对应的意义，经过统一整理存入数据库。该脚本文件也可以存入数据库进行统一处理。该脚本文件可以是按约定的规范编写的脚本。该脚本包含的信息不是脚本执行内容，采用注释的方式添加，以使属性信息和执行脚本采集的对象数据具有一致性。
举例来说，可以通过手动点击、定时任务或自动变更触发等方式触发采集任务，即触发采集数据请求。在接收到采集数据请求后，可以确定出与采集数据请求对应的目标对象，和目标任务类型；例如，目标对象为中间件a，任务类型为测试任务b。
对象结构包括多个对象，可以先确定与目标对象一致的存储于对象结构的对象。在对象结构中，该对象对应了多个属性信息。由于该属性信息分别与对象和任务类型具有映射关系，从而再针对目标对象确定与目标任务类型对应的属性信息。然后，再调取与属性信息对应的脚本(执行脚本)，可以在获取到执行脚本后，将其发送到远程目标机器执行，等待对脚本采集返回的结果，从而得到采集数据。进而可以利用采集到的数据，生成数据图表，绘制图像等。存储多个与目标对象对应的图像进行统一管理，如生成可视化平台，提供图像展示的基础。
本实施例提供的数据采集方法，通过基于对象模型结构，针对目标对象确定与目标任务类型对应的属性信息；调取与属性信息对应的脚本，得到采集数据；可以使属性信息与采集数据的结果是对应一致的，避免对象模型和实际对象数据不一致的问题，具有自动化、智能化、且采集数据准确性高的优点。
基于对象模型结构，针对目标对象确定与目标任务类型对应的属性信息，包括：基于对象模型结构，针对目标对象确定第一子属性信息；确定与目标任务类型对应的第二子属性信息；以及根据第一子属性信息与第二子属性信息的匹配结果，确定第三子属性信息。
举例来说，对象模型结构包括对象a、对象b、对象c、对象d、..、对象y、对象z。与对象a对应的属性信息包括属性1、属性2、…、属性9；与对象b对应的属性信息包括属性10、属性11、…、属性15；与对象c对应的属性信息包括属性16、属性17、...、属性31；…(如与对象y对应的属性包括属性107、属性108、...、属性123；如与对象z对应的属性信息包括属性124、属性125、…、属性150)。各属性。属性信息与任务类型具有映射关系，如与任务b(如测试任务)对应的属性信息包括属性1、7、9、21、31；与任务c对应的属性信息包括属性5、6、32、111等等。
在本实施例中，例如目标对象为中间件a(即对象a)，任务类型为测试任务b(即任务b)。可以按上述约定，基于对象模型结构，确定第一子属性信息结果，如属性1、属性2、...、属性9；再确定第二子属性信息结果，如属性1、7、9、21、31；根据第一子属性信息与第二子属性信息进行属性信息匹配，确定第三属性信息，如属性1、7、9。从而后续调取执行脚本时，调取与属性1、7、9分别对应的脚本。
本实施例提供的数据采集方法，可以根据第一子属性信息与第二子属性信息的匹配结果，确定第三子属性信息，以使采集的实际数据与实际对象是匹配的，具有一致性。
根据采集数据生成与目标对象对应的图像，包括：调取针对目标对象的解析规则，对采集数据进行解析得到解析结果；以及根据解析结果，生成与目标对象对应的图像。
举例来说，针对每个对象配置数据解析规则，可以从事先规定好的格式中提取数据，如采用正则表达式、扩展标记语言、json数据解析规则等方法。
通过对采集数据的解析，可以把隐藏在杂乱无章的采集数据背后的信息提炼出来，根据提取到的关键信息有利于形成对业务有帮助的结论。同时，通过对解析结果的加工和整理，如绘制图表图像，有利于为数据可视化提供基础。
本实施例提供的数据采集方法，通过调取针对目标对象的解析规则，对采集数据进行解析得到解析结果；以及根据解析结果，生成与目标对象对应的图像，为智能数据采集和展示带来便利。
数据采集方法还包括：响应于接收到来自用户的页面展示请求，确定与页面展示请求对应的目标对象；根据与目标对象对应的图像，确定渲染控件；根据渲染控件渲染待渲染视图，得到目标页面；以及向用户展示目标页面。
图3示意性示出了根据本公开实施例的展示目标页面的执行示意图，参见图3。首先，用户通过客户端310发送页面展示请求。服务器320响应于接收到该页面展示请求，并将该请求转达给数据采集装置330。数据采集装置330，可以响应于接收到该请求，确定与页面展示请求对应的目标对象；然后搜索存储与多个对象对应的图像数据库，确定与目标对象对应的图像，例如根据时间戳确定时间差最小的图像。然后，可以基于该时间差最小的图像确定用于渲染空白视图(待渲染视图)的渲染控件，对待渲染视图进行渲染从而得到目标页面。数据采集装置330可以将该目标页面发送至客户端310，即向用户暂时目标页面。
针对渲染控件，需要说明的是，可以是操作***中的原生渲染控件，如SurfaceView控件、UI View控件等。还可以是应用引擎，如Uniy引擎、Cocos引擎等。可以将与目标对象对应的标识传递给渲染控件，渲染控件根据标识读取与目标对象对应的图像，渲染待渲染视图。
图4示意性示出了根据本公开实施例的确定第二目标虚拟机设备的流程示意图。
如图4所示，该实施例包括操作S401～操作S408。
在操作S401，将多个采集数据存储至数据库。
在操作S402，调取针对目标对象的解析规则，对数据库中的采集数据进行解析，存储相应的解析结果。
在操作S403，根据解析结果，生成与目标对象对应的图像。
在操作S404，监听来自用户的消息，如接收到来自用户的页面展示请求。
在操作S405，响应于接收到来自用户的页面展示请求，确定与页面展示请求对应的目标对象。
在操作S406，匹配目标对象，确定与目标对象对应的图像，从而确定渲染控件。
在操作S407，利用确定的渲染控件，渲染待渲染视图，得到目标页面。
在操作S408，向用户发送目标页面，展示该目标页面。
本实施例提供的数据采集方法，响应于接收到来自用户的页面展示请求，确定与页面展示请求对应的目标对象；根据与目标对象对应的图像，确定渲染控件；根据渲染控件渲染待渲染视图，得到目标页面；以及向用户展示目标页面，实现了数据可视化。
对象模型结构包括对象模型表和采集脚本表；其中，对象模型表用于存储多个对象和与多个对象分别对应的多个属性信息，采集脚本表用于存储与多个属性信息分别对应的多个脚本。
可以通过对象模型表和采集脚本表来协同维护对象模型结构。该对象模型表可以用于存储多个对象和与多个对象分别对应的多个属性信息，该采集脚本表可以用于存储与多个属性信息分别对应的多个脚本。
本实施例提供的数据采集方法，利用对象模型表和采集脚本表维护执行脚本和属性信息，有利于降低维护复杂数据的成本，实现简单高效的进行针对脚本和属性信息的修改、增加或删除等操作。
基于上述数据采集方法，本公开还提供了一种数据采集装置。以下将结合图5对该装置进行详细描述。
图5示意性示出了根据本公开实施例的数据采集装置的结构框图。
如图5所示，该实施例的数据采集装置500包括接收模块510、确定模块520、采集模块530和生成模块540。
接收模块510，用于响应于接收到采集数据请求，确定与所述采集数据请求对应的目标对象和目标任务类型；确定模块520，用于基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息；采集模块530，用于调取与所述属性信息对应的脚本，得到采集数据；以及生成模块540，用于根据所述采集数据生成与所述目标对象对应的图像；其中，所述对象模型结构包括多个对象和与所述多个对象分别对应的多个属性信息，所述属性信息分别与对象和任务类型具有映射关系，所述对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
在一些实施例中，所述确定模块，包括：第一确定子模块，用于基于对象模型结构，针对所述目标对象确定第一子属性信息；第二确定子模块，用于确定与所述目标任务类型对应的第二子属性信息；以及第三确定子模块，用于根据所述第一子属性信息与所述第二子属性信息的匹配结果，确定第三子属性信息。
在一些实施例中，生成模块，包括：数据解析子模块，用于调取针对所述目标对象的解析规则，对所述采集数据进行解析得到解析结果；以及生成图像子模块，根据所述解析结果，生成与所述目标对象对应的图像。
在一些实施例中，所述装置还包括：第四确定子模块，用于响应于接收到来自用户的页面展示请求，确定与所述页面展示请求对应的目标对象；第五确定子模块，用于根据与所述目标对象对应的图像，确定渲染控件；渲染模块，根据所述渲染控件渲染待渲染视图，得到目标页面；以及展示模块，用于向用户展示所述目标页面。
在一些实施例中，对象模型结构包括对象模型表和采集脚本表；其中，对象模型表用于存储多个对象和与多个对象分别对应的多个属性信息，采集脚本表用于存储与多个属性信息分别对应的多个脚本。
根据本公开的实施例，接收模块510、确定模块520、采集模块530和生成模块540中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，接收模块510、确定模块520、采集模块530和生成模块540中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，接收模块510、确定模块520、采集模块530和生成模块540中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
图6示意性示出了根据本公开实施例的适于实现数据采集方法的电子设备的方框图。
如图6所示，根据本公开实施例的电子设备600包括处理器601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中，存储有电子设备600操作所需的各种程序和数据。处理器601、ROM602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，电子设备600还可以包括输入/输出(I/O)接口605，输入/输出(I/O)接口605也连接至总线604。电子设备600还可以包括连接至I/O接口605的以下部件中的一项或多项：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/***中所包含的；也可以是单独存在，而未装配入该设备/装置/***中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机***中运行时，该程序代码用于使计算机***实现本公开实施例所提供的数据采集方法。
在该计算机程序被处理器601执行时执行本公开实施例的***/装置中限定的上述功能。根据本公开的实施例，上文描述的***、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分609被下载和安装，和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时，执行本公开实施例的***中限定的上述功能。根据本公开的实施例，上文描述的***、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (10)

1.一种数据采集方法，包括：
响应于接收到采集数据请求，确定与所述采集数据请求对应的目标对象和目标任务类型；
基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息；
调取与所述属性信息对应的脚本，得到采集数据；以及
根据所述采集数据生成与所述目标对象对应的图像；
其中，所述对象模型结构包括多个对象和与所述多个对象分别对应的多个属性信息，所述属性信息分别与对象和任务类型具有映射关系，所述对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
2.根据权利要求1所述的方法，其中，所述基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息，包括：
基于对象模型结构，针对所述目标对象确定第一子属性信息；
确定与所述目标任务类型对应的第二子属性信息；以及
根据所述第一子属性信息与所述第二子属性信息的匹配结果，确定第三子属性信息。
3.根据权利要求1所述的方法，其中，所述根据所述采集数据生成与所述目标对象对应的图像，包括：
调取针对所述目标对象的解析规则，对所述采集数据进行解析得到解析结果；以及
根据所述解析结果，生成与所述目标对象对应的图像。
4.根据权利要求1所述的方法，还包括：
响应于接收到来自用户的页面展示请求，确定与所述页面展示请求对应的目标对象；
根据与所述目标对象对应的图像，确定渲染控件；
根据所述渲染控件渲染待渲染视图，得到目标页面；以及
向用户展示所述目标页面。
5.根据权利要求1所述的方法，其中，所述对象模型结构包括对象模型表和采集脚本表；
其中，所述对象模型表用于存储所述多个对象和与所述多个对象分别对应的多个属性信息，所述采集脚本表用于存储与所述多个属性信息分别对应的多个脚本。
6.一种数据采集装置，包括：
接收模块，用于响应于接收到采集数据请求，确定与所述采集数据请求对应的目标对象和目标任务类型；
确定模块，用于基于对象模型结构，针对所述目标对象确定与所述目标任务类型对应的属性信息；
采集模块，用于调取与所述属性信息对应的脚本，得到采集数据；以及
生成模块，用于根据所述采集数据生成与所述目标对象对应的图像；
其中，所述对象模型结构包括多个对象和与所述多个对象分别对应的多个属性信息，所述属性信息分别与对象和任务类型具有映射关系，所述对象包括操作***、数据库、中间件以及应用程序中的一种或多种。
7.根据权利要求6所述的装置，其中，所述确定模块，包括：
第一确定子模块，用于基于对象模型结构，针对所述目标对象确定第一子属性信息；
第二确定子模块，用于确定与所述目标任务类型对应的第二子属性信息；以及
第三确定子模块，用于根据所述第一子属性信息与所述第二子属性信息的匹配结果，确定第三子属性信息。
8.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～5中任一项所述的方法。
9.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～5中任一项所述的方法。
10.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～5中任一项所述的方法。
CN202210808024.4A 2022-07-08 2022-07-08 数据采集方法、装置、电子设备和介质 Pending CN115033634A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210808024.4A CN115033634A (zh) 2022-07-08 2022-07-08 数据采集方法、装置、电子设备和介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210808024.4A CN115033634A (zh) 2022-07-08 2022-07-08 数据采集方法、装置、电子设备和介质

Publications (1)

Publication Number Publication Date
CN115033634A true CN115033634A (zh) 2022-09-09

Family

ID=83129277

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210808024.4A Pending CN115033634A (zh) 2022-07-08 2022-07-08 数据采集方法、装置、电子设备和介质

Country Status (1)

Country Link
CN (1) CN115033634A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116910393A (zh) * 2023-09-13 2023-10-20 戎行技术有限公司 一种基于递归神经网络的大批量新闻数据采集方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116910393A (zh) * 2023-09-13 2023-10-20 戎行技术有限公司 一种基于递归神经网络的大批量新闻数据采集方法
CN116910393B (zh) * 2023-09-13 2023-12-12 戎行技术有限公司 一种基于递归神经网络的大批量新闻数据采集方法

Similar Documents

Publication Publication Date Title
CN115587575A (zh) 数据表创建方法、目标数据查询方法、装置及设备
CN115982491A (zh) 页面更新方法及装置、电子设备和计算机可读存储介质
CN112395027A (zh) 微件界面生成方法、装置、存储介质与电子设备
CN116594683A (zh) 一种代码注释信息生成方法、装置、设备及存储介质
CN114237651A (zh) 云原生应用的安装方法、装置、电子设备和介质
CN115033634A (zh) 数据采集方法、装置、电子设备和介质
CN114282129A (zh) 信息***页面生成方法、***、电子设备及存储介质
CN113419740A (zh) 程序数据流的分析方法、装置、电子设备及可读存储介质
CN113553123A (zh) 数据处理方法、装置、电子设备及存储介质
CN111241048A (zh) 一种web终端日志管理方法、装置、介质及电子设备
CN115904527A (zh) 数据处理方法、装置、设备及介质
CN115422202A (zh) 业务模型的生成方法、业务数据查询方法、装置及设备
CN114677114A (zh) 基于图形拖拽的审批流程生成方法及装置
CN114201508A (zh) 数据处理方法、数据处理装置、电子设备和存储介质
CN113448578A (zh) 页面数据处理方法、处理***、电子设备和可读存储介质
CN113434382A (zh) 数据库性能监控方法、装置、电子设备及计算机可读介质
CN113378346A (zh) 模型仿真的方法和装置
CN114268558B (zh) 监控图的生成方法、装置、设备、介质
CN113568657A (zh) 图标配置方法、图标配置***、电子设备和介质
CN114201214A (zh) 文件生成方法、装置、电子设备、介质和程序产品
CN115878596A (zh) 数据处理方法、装置、设备及存储介质
CN115098391A (zh) 页面检测方法、装置、设备、介质
CN113535153A (zh) 一种自定义标签的编码方法、装置、设备和介质
CN115952485A (zh) 信息处理方法、装置、设备及存储介质
CN116069312A (zh) 页面渲染方法及装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination