CN108958726B - 一种数据开发的方法和装置 - Google Patents
一种数据开发的方法和装置 Download PDFInfo
- Publication number
- CN108958726B CN108958726B CN201710356569.5A CN201710356569A CN108958726B CN 108958726 B CN108958726 B CN 108958726B CN 201710356569 A CN201710356569 A CN 201710356569A CN 108958726 B CN108958726 B CN 108958726B
- Authority
- CN
- China
- Prior art keywords
- script
- data
- data processing
- development
- public
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/33—Intelligent editors
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Stored Programmes (AREA)
Abstract
本发明实施例提供一种数据开发的方法和装置,通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率。本发明实施例的一种数据开发的方法,包括:定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾;在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
Description
技术领域
本发明涉及计算机领域,尤其涉及一种数据开发的方法和装置。
背景技术
伴随着互联网进入大数据时代,数据的来源类型多种多样,进行数据开发时对原始数据的清洗、解析、加工、处理、挖掘变的越来越普遍,越来越重要。现有的数据开发的技术方案为:数据需求的调研;提取数据进行观察;编写数据处理的脚本;试运行脚本,验证数据处理结果;进行脚本测试,通过后申请脚本的上线部署;配置调度任务,定时执行线上脚本。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
(1)对数据开发的开发人员的技术能力要求高,开发人员既要对业务有很好的理解,又要具备一定的编程能力;
(2)数据开发成本相对较高:开发流程复杂重复,效率低,可操作性差。
发明内容
有鉴于此,本发明实施例提供一种数据开发的方法和装置,通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据开发的方法。
本发明实施例的一种数据开发的方法,包括:定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾;在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
可选地,所述方法还包括:申请上线部署所述可执行脚本,申请通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
可选地,所述方法还包括:在开发界面上输入任务名称,将所述任务名称作为可执行脚本的脚本名称;所述任务名称用于唯一地标识任务。
可选地,还包括在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句之后:对所述数据处理语句进行数据验证。
可选地,对所述数据处理语句进行数据验证包括:调用执行器,将数据处理语句输入到执行器进行数据验证。
可选地,当公共头和公共尾中有需要调整的参数时,相同参数的属性值以开发界面的输入为准。
可选地,所述数据处理语句为SQL语句,所述执行器为SQL执行器。
为实现上述目的,根据本发明实施例的另一方面,提供了一种数据开发的装置。
本发明实施例的一种数据开发的装置,包括:模板定义及界面设计模块,用于定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾;参数及数据处理语句输入模块,用于在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;脚本测试模块,用于将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
可选地,所述装置还包括:上线部署及调度配置模块,用于申请上线部署所述可执行脚本,申请通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
可选地,所述装置还包括任务名称输入模块:用于在开发界面上输入任务名称,将所述任务名称作为可执行脚本的脚本名称;所述任务名称用于唯一地标识任务。
可选地,所述装置还包括数据验证模块:用于对所述数据处理语句进行数据验证。
可选地,所述数据验证模块还用于:调用执行器,将数据处理语句输入到执行器进行数据验证。
可选地,当公共头和公共尾中有需要调整的参数时,相同参数的属性值以开发界面的输入为准。
可选地,所述数据处理语句为SQL语句,所述执行器为SQL执行器。
为实现上述目的,根据本发明实施例的再一方面,提供了一种电子设备。
本发明实施例的一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例的一种数据开发的方法。
为实现上述目的,根据本发明实施例的再一方面,提供了一种计算机可读介质。
本发明实施例的一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例的一种数据开发的方法。
根据本发明的技术方案,上述发明中的一个实施例具有如下优点或有益效果:通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率;在脚本部署时直接将经平台化和界面化处理后的脚本进行部署,不需要做跨多平台或软件的处理,提高了脚本部署的效率。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的数据开发方法的主要步骤的示意图;
图2是根据本发明实施例的数据开发装置的主要模块的示意图;
图3是根据本发明实施例的开发界面的构成示意图;
图4是适用于来实现本发明实施例的电子设备的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本发明实施例中,改进了之前的数据开发方法,实现了一种便捷高效的数据开发平台化的解决方案。在进行数据开发时,首先需要进行数据需求调研,并提取数据进行观察,之后再按照本发明所述数据开发方法进行数据开发处理。
图1是本发明实施例的数据开发方法的主要步骤的示意图。
如图1所示,本发明实施例的数据开发的方法主要包括如下步骤:
步骤S11:定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾。其中,公共头和公共尾是指做数据开发编写脚本时经常用到的头和尾,将经常用到的头和尾固定下来作为脚本基础模板的内容,省去每次编写脚本时都需要操作一遍。公共头可以包含一些常用函数包的引入,比如:C语言中标准输入输出函数的引入:#include<stdoi.h>,Python语言中***函数引入:import sys。公共尾类似于公共头,也可以包含一些常用函数包的引入(引入的函数包视具体编程而定),但是脚本基础模板中公共尾不是必须有的,如果所采用的脚本语言中有经常用到的语句则将这些语句对应作为公共尾。Python语言是一种面向对象的解释型计算机程序设计语言。
公共头和公共尾中可以包含经常被用到的一些参数的默认设置,目的是减少开发人员的修改,但是参数设置并非必须,而是根据实际需求确定是否进行常用参数的设置以及具体对哪些参数进行设置。例如可以是对最大动态分区数、输出文件是否压缩、压缩方式的设置等。以Python语言举例说明:set hive.exec.max.dynamic.partitions=100000;set hive.exec.max.dynamic.partitions.pernode=10000。定义脚本基础模板的作用是把经常需要重复编写的语句提前预置到脚本基础模板中,以减少开发人员进行数据开发的时间,提高效率。
开发界面中包括参数调整文本框、数据处理文本框、数据验证按钮和脚本测试按钮。参数调整文本框的作用是:当需要对公共头和公共尾中的参数进行调整时,在参数调整文本框中输入相关内容,在后续进行脚本测试时,调整后的参数会融合到脚本基础模板中,相同参数的属性值按照参数调整文本框的输入为准,比如Python脚本,将setmapred.output.compress=true;调整为:set mapred.output.compress=false;如果不需要对参数进行调整,则参数调整文本框中不作输入。数据处理文本框用于输入数据处理语句,主要是SQL(Structured Query Language,结构化查询语言)语句,也可以包含一些Python处理的语句,比如定义变量,初始化变量,创建数据表,更新数据表等等。点击开发界面数据验证按钮,会自动执行数据处理文本框中的数据处理语句,以验证编写的数据处理语句是否合理,得到数据验证结果,数据验证结果以Excel表格、文本、界面直接展示、甚至以数据表格展示的方式给出。
在步骤S11完成模板定义好人界面设计后,从步骤S12开始进行数据验证和脚本测试。
步骤S12:在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句。其中,输入数据处理语句后可以对所述数据处理语句进行数据验证,具体包括:编程调用执行器,将数据处理语句输入到执行器进行数据验证。以SQL语句为例,执行器对应为SQL执行器,将SQL语句输入到SQL执行器(此处的SQL执行器即为MySQL查询引擎)以实现对数据的查询及查询结果的输出。如果数据验证未通过即编写的数据处理语句不合适,则修改数据处理语句至合适后再执行步骤S13。MySQL是一种关系数据库管理***。
步骤S13:将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。因公共头和公共尾包含了参数的默认设置,所以需要将开发界面上的参数调整内容和新增的数据处理语句都通过编程写入到脚本基础模板,以对脚本基础模板进行微调最终形成一个可执行脚本。对可执行脚本进行脚本测试,将测试结果输出到Excel表格,若有报错则以文本方式弹出。
此外,本发明的实施例中脚本测试执行完成后,进行可执行脚本上线部署的申请,上线部署申请的审批通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
另外,本发明的实施例中开发界面还可以包括任务名称文本框,在开发界面上输入任务名称,任务名称可唯一地标识任务,通过编程将所述任务名称作为可执行脚本的脚本名称。任务名称比如:exe_analyze_ip,是解析IP地址的一个任务。
另外,本发明的实施例中通过设计执行时间设定界面设定所述可执行脚本的执行时间,执行时间设定界面包括执行时间文本框、确认按钮和关闭按钮,执行时间文本框中填写的数据格式为:Minute Hour Day Month Dayofweek(分钟小时天月天每星期)。用户按照数据格式手动输入执行时间,可执行脚本按照设定的时间定期执行。
通过本发明实施例的数据开发的方法可以看出,通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率;在脚本部署时直接将经平台化和界面化处理后的脚本进行部署,不需要做跨多平台或软件的处理,提高了脚本部署的效率。
图2是根据本发明实施例的数据开发装置的主要模块的示意图;
如图2所示,本发明实施例的数据开发装置20主要包括:模板定义及界面设计模块201,用于定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾。参数及数据处理语句输入模块202,用于在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句。脚本测试模块203,用于将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
其中,公共头和公共尾是指做数据开发编写脚本时经常用到的头和尾。公共头可以包含一些常用函数包的引入,比如C语言#include<stdio.h>,Python语言import sys、import os等。公共尾类似于公共头,也可以包含一些常用函数包的引入,但是脚本基础模板中公共尾不是必须有的,如果所采用的脚本语言中有经常用到的语句则将这些语句对应作为公共尾。公共头和公共尾中可以包含经常被用到的一些参数的默认设置,例如可以是对最大动态分区数、输出文件是否压缩、压缩方式的设置等。比如Python脚本:set hive.exec.max.dynamic.partitions=100000;set hive.exec.max.dynamic.partitions.pernode=10000;定义脚本基础模板作用是把经常需要重复编写的语句提前预置到脚本基础模板中,以减少开发人员进行数据开发的时间,提高效率。
其中,开发界面中包括参数调整文本框、数据处理文本框、数据验证按钮和脚本测试按钮。参数调整文本框的作用是:当需要对公共头和公共尾中的参数进行调整时,在参数调整文本框中输入相关内容,在后续进行脚本测试时,调整后的参数会融合到脚本基础模板中,相同参数的属性值按照参数调整文本框的输入为准,比如Python脚本,将setmapred.output.compress=true;调整为:set mapred.output.compress=false;如果不需要对参数进行调整,则参数调整文本框中不作输入。数据处理文本框用于输入数据处理语句,主要是SQL语句,也可以包含一些Python处理的语句,比如定义变量,初始化变量,创建数据表,更新数据表等等。点击开发界面数据验证按钮,会自动执行数据处理文本框中的数据处理语句,以验证编写的数据处理语句是否合理,得到数据验证结果,数据验证结果以Excel表格、文本、界面直接展示、甚至以数据表格展示的方式给出。
另外,本发明实施例的数据开发装置还包括数据验证模块,用于对所述数据处理语句进行数据验证,具体包括:编程调用执行器,将数据处理语句输入到执行器进行数据验证。以SQL语句为例,执行器对应为SQL执行器,将SQL语句输入到SQL执行器(此处的SQL执行器即为MySQL查询引擎)以实现对数据的查询及查询结果的输出。如果数据验证未通过即编写的数据处理语句不合适,则修改数据处理语句至合适后再进行脚本测试。
其中,脚本测试模块203用于将开发界面上的参数调整内容和新增的数据处理语句通过编程写入到脚本基础模板,最终形成一个可执行脚本。对可执行脚本进行脚本测试,将测试结果输出到Excel表格,若有报错则以文本方式弹出。因公共头和公共尾包含了参数的默认设置,所以需要将开发界面上的参数调整内容和新增的数据处理语句通过编程写入到脚本基础模板,以对脚本基础模板进行微调最终形成一个可执行脚本。
此外,本发明的实施例的数据开发装置还包括上线部署及调度配置模块,用于在脚本测试执行完成后,进行可执行脚本上线部署的申请,上线部署申请的审批通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
另外,本发明的实施例的数据开发装置还可以包括任务名称输入模块,用于在开发界面上输入任务名称,通过编程将所述任务名称作为可执行脚本的脚本名称。所述任务名称可唯一地标识任务。任务名称比如:exe_analyze_ip,是解析IP地址的一个任务。
另外,本发明的实施例中通过设计执行时间设定界面设定所述可执行脚本的执行时间,执行时间设定界面包括执行时间文本框、确认按钮和关闭按钮,执行时间文本框中填写的数据格式为:Minute Hour Day Month Dayofweek(分钟小时天月天每星期)。用户按照数据格式手动输入执行时间,可执行脚本按照设定的时间定期执行。
从以上描述可以看出,通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率;在脚本部署时直接将经平台化和界面化处理后的脚本进行部署,不需要做跨多平台或软件的处理,提高了脚本部署的效率。
图3是本发明实施例的开发界面的构成示意图。
如图3所示,本发明实施例的开发界面的构成包括任务名称文本框、参数调整文本框、数据处理文本框、数据验证按钮、脚本测试按钮和提交上线按钮。用户在任务名称文本框中输入任务名称,在参数调整文本框中输入需要调整参数的参数调整内容,在数据处理文本框中输入进行数据处理的SQL语句;然后点击数据验证按钮进行SQL语句的编写验证,验证结果以Excel形式给出;验证通过后点击脚本测试按钮,将参数调整内容和SQL语句融合到脚本基础模板得到可执行脚本,按照任务名称对可执行脚本命名并对可执行脚本进行脚本测试,将脚本测试结果输出至Excel表格中(如有报错以文本方式弹出);脚本测试完成后进行脚本部署上线申请,申请通过后会到执行时间设定的界面;在执行时间设定的界面按照预定格式设定执行时间,点击界面上的确认按钮,完成可执行脚本的上线部署并退出该界面,可执行脚本会按照用户输入的执行时间定期部署,点击关闭按钮,则直接退出执行时间设定的界面。
根据本发明的实施例,本发明还提供了一种电子设备和一种计算机可读介质。
本发明的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例的一种数据开发的方法。
本发明的计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例的一种数据开发的方法。
下面参考图4,其示出了适用于来实现本发明实施例的电子设备的计算机***400的结构示意图。图4示出的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机***400包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有计算机***400操作所需的各种程序和数据。CPU 401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本发明公开的实施例,上文主要步骤图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行主要步骤图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括模板定义及界面设计模块、参数及数据处理语句输入模块和脚本测试模块。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,模板定义及界面设计模块还可以被描述为“定义脚本基础模板并设计开发界面的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾;在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
根据本发明的技术方案,通过定义脚本基础模板和设计开发界面,把经常需重复编写的语句提前预置到脚本基础模板中,以此实现了数据开发的平台化和界面化,同时减少了开发人员的数据开发时间,降低了数据开发门槛、提高了效率;在脚本部署时直接将经平台化和界面化处理后的脚本进行部署,不需要做跨多平台或软件的处理,提高了脚本部署的效率。
上述产品可执行本发明实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的方法。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (14)
1.一种数据开发的方法,其特征在于,包括:
定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾,所述公共头和所述公共尾是指做数据开发编写脚本时重复用到的头和尾,包括函数包和参数的默认设置,所述参数包括最大动态分区数、输出文件是否压缩和压缩方式;
在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;
在所述数据处理语句进行数据验证通过后,将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:申请上线部署所述可执行脚本,申请通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:在开发界面上输入任务名称,将所述任务名称作为可执行脚本的脚本名称;所述任务名称用于唯一地标识任务。
4.根据权利要求1所述的方法,其特征在于,对所述数据处理语句进行数据验证包括:调用执行器,将数据处理语句输入到执行器进行数据验证。
5.根据权利要求1-4任一所述的方法,其特征在于,当公共头和公共尾中有需要调整的参数时,相同参数的属性值以开发界面的输入为准。
6.根据权利要求4所述的方法,其特征在于,所述数据处理语句为SQL语句,所述执行器为SQL执行器。
7.一种数据开发的装置,其特征在于,包括,
模板定义及界面设计模块,用于定义脚本基础模板并设计开发界面;所述脚本基础模板包括脚本语言对应的公共头和公共尾,所述公共头和所述公共尾是指做数据开发编写脚本时重复用到的头和尾,包括函数包和参数的默认设置,所述参数包括最大动态分区数、输出文件是否压缩和压缩方式;
参数及数据处理语句输入模块,用于在所述开发界面上输入公共头和公共尾的参数调整内容以及数据处理语句;
脚本测试模块,用于在所述数据处理语句进行数据验证通过后,将所述参数调整内容和所述数据处理语句融合到所述脚本基础模板以形成可执行脚本,对所述可执行脚本进行脚本测试。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:上线部署及调度配置模块,用于申请上线部署所述可执行脚本,申请通过后设定所述可执行脚本的执行时间,并按照设定时间执行所述可执行脚本。
9.根据权利要求7所述的装置,其特征在于,所述装置还包括任务名称输入模块:用于在开发界面上输入任务名称,将所述任务名称作为可执行脚本的脚本名称;所述任务名称用于唯一地标识任务。
10.根据权利要求7所述的装置,其特征在于,所述数据验证模块还用于:调用执行器,将数据处理语句输入到执行器进行数据验证。
11.根据权利要求7-10任一所述的装置,其特征在于,当公共头和公共尾中有需要调整的参数时,相同参数的属性值以开发界面的输入为准。
12.根据权利要求10所述的装置,其特征在于,所述数据处理语句为SQL语句,所述执行器为SQL执行器。
13.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710356569.5A CN108958726B (zh) | 2017-05-19 | 2017-05-19 | 一种数据开发的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710356569.5A CN108958726B (zh) | 2017-05-19 | 2017-05-19 | 一种数据开发的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108958726A CN108958726A (zh) | 2018-12-07 |
CN108958726B true CN108958726B (zh) | 2022-01-28 |
Family
ID=64462905
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710356569.5A Active CN108958726B (zh) | 2017-05-19 | 2017-05-19 | 一种数据开发的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108958726B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111291990B (zh) * | 2020-02-04 | 2023-11-07 | 浙江大华技术股份有限公司 | 一种质量监控处理方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102164045A (zh) * | 2010-02-20 | 2011-08-24 | 微软公司 | 参数化的计算机监视*** |
CN103135976A (zh) * | 2011-11-30 | 2013-06-05 | 阿里巴巴集团控股有限公司 | 代码自动生成方法及装置 |
CN103942140A (zh) * | 2013-12-19 | 2014-07-23 | 江苏锐天信息科技有限公司 | 一种测试程序自动转换方法 |
CN104268072A (zh) * | 2014-09-03 | 2015-01-07 | 武汉烽火网络有限责任公司 | 图形化脚本编辑器及快速开发通信设备测试脚本的方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103577168A (zh) * | 2012-07-27 | 2014-02-12 | 鸿富锦精密工业(深圳)有限公司 | 测试用例创建***及方法 |
-
2017
- 2017-05-19 CN CN201710356569.5A patent/CN108958726B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102164045A (zh) * | 2010-02-20 | 2011-08-24 | 微软公司 | 参数化的计算机监视*** |
CN103135976A (zh) * | 2011-11-30 | 2013-06-05 | 阿里巴巴集团控股有限公司 | 代码自动生成方法及装置 |
CN103942140A (zh) * | 2013-12-19 | 2014-07-23 | 江苏锐天信息科技有限公司 | 一种测试程序自动转换方法 |
CN104268072A (zh) * | 2014-09-03 | 2015-01-07 | 武汉烽火网络有限责任公司 | 图形化脚本编辑器及快速开发通信设备测试脚本的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108958726A (zh) | 2018-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10061573B2 (en) | User interfaces of application porting software platform | |
US20190213116A1 (en) | Generation of automated testing scripts by converting manual test cases | |
CN112394942B (zh) | 基于云计算的分布式软件开发编译方法及软件开发平台 | |
CN109446099A (zh) | 自动化测试用例生成方法、装置、介质及电子设备 | |
CN107193593B (zh) | 一种可升级文件的升级方法、机顶盒和存储介质 | |
CN108920496B (zh) | 一种渲染方法及装置 | |
CN110377462B (zh) | 接口测试方法、装置及终端设备 | |
CN108469955B (zh) | 一种基于注解的Android注入框架实现方法 | |
KR20200125159A (ko) | 전자 장치 및 이의 제어 방법 | |
US9507693B2 (en) | Method, device and computer-readable storage medium for closure testing | |
KR20130017337A (ko) | 하이브리드 앱 개발 플랫폼 구조 및 그 테스트 방법, 그리고 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체. | |
CN111797020A (zh) | 基于动态字节码的mock数据方法及装置 | |
CN107797805B (zh) | 一种代码封装方法、装置及计算机可读存储介质 | |
CN111930398A (zh) | 应用程序更新方法、装置、***、介质及设备 | |
US20120330859A1 (en) | Interactive business process modeling and simulation | |
CN108958726B (zh) | 一种数据开发的方法和装置 | |
CN115994085A (zh) | 代码覆盖率的测试处理方法、装置、设备及存储介质 | |
CN112632333A (zh) | 查询语句生成方法、装置、设备及计算机可读存储介质 | |
CN117632710A (zh) | 测试代码的生成方法、装置、设备及存储介质 | |
US20130346055A1 (en) | Modeling and cooperative simulation of systems with interdependent discrete and continuous elements | |
CN111385661B (zh) | 语音控制全屏播放的方法、装置、终端及存储介质 | |
CN107562629B (zh) | 用于测试的方法及装置 | |
CN109542447B (zh) | 一种otx程序文件执行方法及装置 | |
US9760567B1 (en) | Method and apparatus for using a common dialect for testing on multiple execution interfaces | |
US20150074678A1 (en) | Device and method for automating a process of defining a cloud computing resource |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |