CN115146865A - 基于人工智能的任务优化方法及相关设备 - Google Patents
基于人工智能的任务优化方法及相关设备 Download PDFInfo
- Publication number
- CN115146865A CN115146865A CN202210871767.6A CN202210871767A CN115146865A CN 115146865 A CN115146865 A CN 115146865A CN 202210871767 A CN202210871767 A CN 202210871767A CN 115146865 A CN115146865 A CN 115146865A
- Authority
- CN
- China
- Prior art keywords
- data
- task
- sample
- evaluated
- classification model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06311—Scheduling, planning or task assignment for a person or group
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06316—Sequencing of tasks or work
Landscapes
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Marketing (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Educational Administration (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提出一种基于人工智能的任务优化方法、装置、电子设备及存储介质,基于人工智能的任务优化方法包括:采集与历史任务相关的多个维度作为原始数据;对原始数据进行降维处理获得降维数据和多个目标维度;对降维数据进行预处理以获得样本数据;对样本数据进行聚类获得多个样本分组,对每个样本分组中的样本数据进行标注获得标签数据;依据样本数据和标签数据训练任务分类模型;依据目标维度采集与待评估任务相关的待评估数据,并将待评估数据输入任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。该方法可以依据分类结果对任务分类模型进行持续性优化,从而能够持续性增强任务优化的准确性。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及一种基于人工智能的任务优化方法、装置、电子设备及存储介质。
背景技术
随着企业的业务场景逐步丰富,企业的大数据任务数量也越来越多,大量重复的计算任务与开发任务开始出现,导致数据分析的成本不断的上涨。如何在海量的任务中快速定位到那些不合理的或者冗余的任务并对其进行优化,是当前广受关注的一项问题。
目前,企业通常根据经验制定诸如复杂性、链路冗余性、代码效率等能够体现数据分析任务优劣的指标,这种方法难以完整的保证分析的全面性,并且用于衡量任务优劣的指标数量较少,从而会导致分析结果的准确度较低。
发明内容
鉴于以上内容,有必要提供一种基于人工智能的任务优化方法及相关设备,以解决如何提高任务优化的准确性这一技术问题,其中,相关设备包括基于人工智能的任务优化装置、电子设备及存储介质。
本申请实施例提供一种基于人工智能的任务优化方法,所述方法包括:
采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度;
对所述原始数据进行降维处理获得降维数据和多个目标维度;
对所述降维数据进行预处理以获得样本数据;
对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据;
依据所述样本数据和所述标签数据训练任务分类模型;
依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
上述基于人工智能的任务优化方法通过采集历史任务相关的多项数据构建了包含多个维度的原始数据,并对原始数据进行降维和预处理获得样本数据,从而提升数据质量,进一步对样本数据进行标注获得样本数据对应的标签数据,利用样本数据和标签数据训练任务分类模型,进而利用该模型对待评估任务进行分类,并依据分类结果对任务分类模型进行持续性优化,从而确保任务分类模型的性能能够不断提升,进而能够持续性增强任务优化的准确性。
在一些实施例中,所述对所述原始数据进行降维处理获得降维数据和多个目标维度,包括:
依据预设的降维算法计算所述原始数据中每个维度的重要性;
依据所述重要性选取预设数量的所述维度作为目标维度;
将所述原始数据中的目标维度作为所述原始数据对应的降维数据。
如此,通过计算原始数据中每个维度的重要性,并选取维度重要性较高的多个维度作为降维数据,降低了数据维度,从而能够降低后续数据分析的时间复杂度,提升数据分析的效率。
在一些实施例中,所述对所述降维数据进行预处理以获得样本数据,包括:
从所述降维数据中删除具备缺失值的降维数据,将剩余的降维数据作为第一备选数据;
从所述第一备选数据中删除具备异常值的第一备选数据,将剩余第一备选数据作为第二备选数据;
分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据。
如此,通过对原始数据进行预处理,剔除了原始数据中的缺失值和异常值获得第二备选原始数据,并对第二备选原始数据中每个维度的数值进行归一化处理以消除量纲不一致的问题,从而提升了样本数据的质量,进而能够提升后续数据分析的准确度。
在一些实施例中,所述对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据,包括:
对所述样本数据进行聚类获得多个样本分组,并分别计算每个样本分组中样本数据的均值;
针对每个样本分组,分别计算每个样本数据与所述样本数据的均值之间的欧式距离,并将最小欧式距离对应的样本数据作为代表性数据,得到每个所述样本分组的代表性数据,其中,每个所述代表性数据均对应一个历史任务;
依据预设的历史优化记录查询所述代表性数据对应的历史任务的优化结果,并依据所述优化结果标注所述代表性数据所属的样本分组中所有样本数据,得到标签数据,所述优化结果包括无需优化和需要优化。
如此,通过查询少量的代表性数据对应历史任务的优化结果对所有样本数据进行标注获得了标签数据,避免重复查询和标注造成的人力资源的浪费,提升了数据标注的效率。
在一些实施例中,所述对所述样本数据进行聚类获得多个样本分组,包括:
a,依据预设的分组参数从所有样本数据中选取多个目标数据,所述目标数据的数量与所述分组参数相同;
b,任选一个未被选择过的样本数据作为当前数据,分别计算所述当前数据与每个目标数据的余弦相似度,并将所述当前数据与最大余弦相似度对应的目标数据归为同一个备选分组;
c,重复执行步骤b,直到所有样本数据都被归为备选分组,获得多个备选分组;
d,分别计算每个样本分组中所有样本数据的均值,并计算属于同一样本分组的均值与所述目标数据的差值,若所述差值小于预设的终止阈值,则将所述多个备选分组作为多个样本分组,若所述差值大于所述预设的终止阈值,则将所述均值作为目标数据,并重复执行步骤b至步骤d,以获得多个样本分组。
如此,通过对所有样本数据进行聚类获得多个样本分组,每个样本分组具备高度相似的数据维度,从而能够为数据标注提供指引。
在一些实施例中,所述依据所述样本数据和所述标签数据训练任务分类模型,包括:
a,将所述样本数据与所述标签数据一一对应作为训练数据,并依据预设的划分比例将所述训练数据划分为多个子集,将所有子集标记为未访问,任选一个子集作为验证集,将该子集标记为已访问,并将其余子集中所有的样本数据作为训练集;
b,利用所述训练集中所有的样本数据训练预设的初始分类模型获得备选分类模型;
c,依据所述验证集中的样本数据和标签数据计算所述备选分类模型的分类准确度;
d,任选一个标记为未访问的子集作为验证集,并将其余子集作为训练集,重复执行步骤b至步骤d以获得多个备选分类模型和每个备选分类模型对应的分类准确度,直到所有子集都被标记为已访问,获得多个备选分类模型和每个备选分类模型对应的分类准确度;
e,选取所述分类准确度中最大值对应的备选分类模型作为任务分类模型,所述任务分类模型的功能是接收所述历史任务对应的样本数据,并输出所述历史任务对应的类别。
如此,通过多次交叉验证获得性能较佳的任务分类模型,能够降低任务分类模型出现欠拟合的风险,提升任务分类模型的性能。
在一些实施例中,所述依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化,包括:
依据所述目标维度采集与待评估任务相关的多项数据作为原始待评估数据;
对所述原始待评估数据进行归一化处理获得待评估数据;
将所述待评估数据输入所述任务分类模型获得所述待评估任务的类别;
分别计算所述待评估数据与每个样本数据的余弦相似度,将最大余弦相似度对应样本数据的类别作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则将所述待评估任务对应的类别作为分类结果推送给用户,否则将所述待评估数据作为训练数据重新训练所述任务分类模型。
如此,利用目标维度选取待评估任务对应的待评估数据,并将待评估数据输入任务分类模型以获得待评估任务的类别,依据样本数据和标签数据评估所述待评估任务是否被正确分类,能够通过未被正确分类的数据持续优化任务分类模型,从而能够提升任务分类模型的性能。
本申请实施例还提供一种基于人工智能的任务优化装置,所述装置包括:
采集单元,用于采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度;
降维单元,用于对所述原始数据进行降维处理获得降维数据和多个目标维度;
预处理单元,用于对所述降维数据进行预处理以获得样本数据;
标注单元,用于对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据;
训练单元,用于依据所述样本数据和所述标签数据训练任务分类模型;
分类单元,用于依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
本申请实施例还提供一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述基于人工智能的任务优化方法。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述基于人工智能的任务优化方法。
上述基于人工智能的任务优化方法通过采集历史任务相关的多项数据构建了包含多个维度的原始数据,并对原始数据进行降维和预处理获得样本数据,从而提升数据质量,进一步对样本数据进行标注获得样本数据对应的标签数据,利用样本数据和标签数据训练任务分类模型,进而利用该模型对待评估任务进行分类,并依据分类结果对任务分类模型进行持续性优化,从而确保任务分类模型的性能能够不断提升,进而能够持续性增强任务优化的准确性。
附图说明
图1是本申请所涉及的一种基于人工智能的任务优化方法的较佳实施例的流程图。
图2是本申请所涉及的基于人工智能的任务优化装置的较佳实施例的功能模块图。
图3是本申请所涉及的基于人工智能的任务优化方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本申请的目的、维度和优点,下面结合附图和具体实施例对本申请进行详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的维度可以相互结合。在下面的描述中阐述了很多具体细节以便于充分理解本申请,所述描述的实施例仅是本申请一部分实施例,而不是全部的实施例。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术维度的数量。由此,限定有“第一”、“第二”的维度可以明示或者隐含地包括一个或者更多个所述维度。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中在本申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请。本文所使用的术语“和/或”包括一个或多个相关的所列项目的任意的和所有的组合。
本申请实施例提供一种基于人工智能的任务优化方法,可应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能式穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
如图1所示,是本申请基于人工智能的任务优化方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
S10,采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度。
该可选的实施例中,所述历史任务指企业为了提升业务效率而在服务器中运行的多种数据处理任务,所述多种数据处理任务的功能包括数据查询、数据清洗、数据聚合等。
该可选的实施例中,所述历史任务相关的多项数据包括所述历史任务的类别、运行时长、运行结果、资源占用率、所述历史任务分析的数据量、所述历史任务调用的程序接口,所述资源占用率指所述历史任务占用所述服务器资源的比例,所述资源占用率包括CPU占用率、内存占用率、I/O占用率。
该可选的实施例中,可从预设的任务运行日志中查询每个历史任务相关的多项数据作为每个历史任务对应的原始数据,所述原始数据为1行n列的向量,其中n代表所述多项数据的数量,且所述原始数据中的每一列代表所述原始数据的一个维度。
如此,通过广泛采集历史任务相关的数据获得大量原始数据,较为广泛的囊括了历史任务的各项信息,为后续维度提取提供了数据支撑。
S11,对所述原始数据进行降维处理获得降维数据和多个目标维度。
在一个可选的实施例中,所述对所述原始数据进行降维处理获得降维数据和多个目标维度,包括:
依据预设的降维算法计算所述原始数据中每个维度的重要性;
依据所述重要性选取预设数量的所述维度作为目标维度;
将所述原始数据中的目标维度作为所述原始数据对应的降维数据。
该可选的实施例中,所述预设的降维算法可以是PCA算法(Principle ComponentAnalysis,主成分分析算法)、SVD算法(Singular Value Decomposition,奇异值分解算法)等现有的数据降维算法,本申请对此不做限定,所述预设的降维算法的输出为所述原始数据中每个维度的重要性,所述重要性越高则表明该重要性对应的维度对于原始数据的表征越重要。
该可选的实施例中,所述预设数量可以是0.8n、0.6n、0.4n等,本申请对此不做限定,其中,n代表所述原始数据的维度的数量。示例性的,当所述预设数量为0.8n时,则可依据所述重要性由高到低的顺序对所述维度进行排序,并选取次序为前0.8n的维度作为目标维度。
该可选的实施例中,可将所述原始数据中的目标维度作为降维数据。
如此,通过计算原始数据中每个维度的重要性,并选取维度重要性较高的多个维度作为降维数据,降低了数据维度,从而能够降低后续数据分析的时间复杂度,提升数据分析的效率。
S12,对所述降维数据进行预处理以获得样本数据。
在一个可选的实施例中,所述对所述降维数据进行预处理获得样本数据,包括:
从所述降维数据中删除具备缺失值的降维数据,将剩余的降维数据作为第一备选数据;
从所述第一备选数据中删除具备异常值的第一备选数据,将剩余第一备选数据作为第二备选数据;
分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据。
该可选的实施例中,为了避免数据缺失对后续数据分析的准确性造成消极影响,可查询每个降维数据中是否具备缺失值,若某一个降维数据中任意一个维度的数值存在缺失,则删除该降维数据,直到删除所有具备缺失值的降维数据,获得第一备选数据。
该可选的实施例中,当所述第一备选数据中某个维度的数值与所有第一备选数据中该维度数值的均值的偏差大于两倍的标准差,则该维度的数值为异常值,可删除所有具备异常值的第一备选数据,以获得第二备选数据。
该可选的实施例中,为了消除所述第二备选数据中每个维度的量纲差异,可依据预设的归一化算法分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据,所述预设的归一化算法可以是最大化算法、最小化算法、反正切函数算法、S型生长曲线算法等现有的归一化算法,本申请对此不做限定。
所述样本数据的维度与所述降维数据的维度相同,且所述样本数据中每个维度的数值的取值范围是[0,1]。
如此,通过对原始数据进行预处理,剔除了原始数据中的缺失值和异常值获得第二备选原始数据,并对第二备选原始数据中每个维度的数值进行归一化处理以消除量纲不一致的问题,从而提升了样本数据的质量,进而能够提升后续数据分析的准确度。
S13,对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据。
在一个可选的实施例中,所述对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据,包括:
对所述样本数据进行聚类获得多个样本分组,并分别计算每个样本分组中样本数据的均值;
针对每个样本分组,分别计算每个样本数据与所述样本数据的均值之间的欧式距离,并将最小欧式距离对应的样本数据作为代表性数据,得到每个所述样本分组的代表性数据,其中,每个所述代表性数据均对应一个历史任务;
依据预设的历史优化记录查询所述代表性数据对应的历史任务的优化结果,并依据所述优化结果标注所述代表性数据所属的样本分组中所有样本数据,得到标签数据,所述优化结果包括无需优化和需要优化。
在一个可选的实施例中,所述对所述样本数据进行聚类获得多个样本分组,包括:
a,依据预设的分组参数从所有样本数据中选取多个目标数据,所述目标数据的数量与所述分组参数相同,示例性的,所述预设的分组参数可以是2;
b,任选一个未被选择过的样本数据作为当前数据,分别计算所述当前数据与每个目标数据的余弦相似度,并将所述当前数据与最大余弦相似度对应的目标数据归为同一个备选分组;
c,重复执行步骤b,直到所有样本数据都被归为备选分组,获得多个备选分组,所述样本分组的数量与所述预设的分组参数相同;
d,分别计算每个样本分组中所有样本数据的均值,并计算属于同一样本分组的均值与所述目标数据的差值,若所述差值小于预设的终止阈值,则将所述多个备选分组作为多个样本分组,若所述差值大于所述预设的终止阈值,则将所述均值作为目标数据,并重复执行步骤b至步骤d,以获得多个样本分组。
该可选的实施例中,由于每个所述样本分组中所有的样本数据较为相似,因此可计算所述样本分组中所有样本数据的均值,并选取与所述均值之间欧式距离最小的样本数据作为所述样本分组的代表性数据,所述代表性数据能够表征所述样本分组中所有样本数据的维度。
该可选的实施例中,所述预设的历史优化记录用以记录所有历史任务的优化结果,所述优化结果包括无需优化和需要优化,可利用所述代表性数据对应历史任务的优化结果标记所述代表性数据所属样本分组中的所有样本数据。
如此,通过查询少量的代表性数据对应历史任务的优化结果对所有样本数据进行标注获得了标签数据,避免重复查询和标注造成的人力资源的浪费,提升了数据标注的效率。
S14,依据所述样本数据和所述标签数据训练任务分类模型。
在一个可选的实施例中,所述依据所述样本数据和所述标签数据训练任务分类模型,包括:
a,将所述样本数据与所述标签数据一一对应作为训练数据,并依据预设的划分比例将所述训练数据划分为多个子集,将所有子集标记为未访问,任选一个子集作为验证集,将该子集标记为已访问,并将其余子集中所有的样本数据作为训练集。示例性的,当所述预设的划分比例为10%,则可将所述训练数据划分为10个子集,每个子集包含10%的样本数据。
b,利用所述训练集中所有的样本数据训练预设的初始分类模型获得备选分类模型,所述预设的初始分类模型可以是GBDT模型(Gradient Boosting Decision Tree,梯度上升树)、XGBoost模型(Extreme Gradient Boosting,极端梯度增强算法)、LightGBM模型(Light Gradient Boosting Machine,轻量梯度上升机器模型)等现有的分类模型,本申请对此不做限定。
所述初始分类模型的训练方法可以是贝叶斯调参法。
c,依据所述验证集中的样本数据和标签数据计算所述备选分类模型的分类准确度。
将所述验证集中的样本数据输入所述备选分类模型获得分类结果,计算分类正确的数量与验证集中样本数据总数的比值作为该备选分类模型的分类准确度。
d,任选一个标记为未访问的子集作为验证集,并将其余子集作为训练集,重复执行步骤b至步骤d以获得多个备选分类模型和每个备选分类模型对应的分类准确度,直到所有子集都被标记为已访问,获得多个备选分类模型和每个备选分类模型对应的分类准确度。
e,选取所述分类准确度中最大值对应的备选分类模型作为任务分类模型,所述任务分类模型的功能是接收所述历史任务对应的样本数据,并输出所述历史任务对应的类别。
如此,通过多次交叉验证获得性能较佳的任务分类模型,能够降低任务分类模型出现欠拟合的风险,提升任务分类模型的性能。
S15,依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
在一个可选的实施例中,所述依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化,包括:
依据所述目标维度采集与待评估任务相关的多项数据作为原始待评估数据;
对所述原始待评估数据进行归一化处理获得待评估数据;
将所述待评估数据输入所述任务分类模型获得所述待评估任务的类别;
分别计算所述待评估数据与每个样本数据的余弦相似度,将最大余弦相似度对应样本数据的类别作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则将所述待评估任务对应的类别作为分类结果推送给用户,否则将所述待评估数据作为训练数据重新训练所述任务分类模型。
所述待评估任务指需要进行分类的数据处理任务。
该可选的实施例中,可依据所述目标维度采集所述待评估任务相关的各项数据作为原始待评估数据,示例性的,当所述目标维度包括运行时长、CPU占用率,则可采集所述待评估任务的运行时长和CPU占用率以作为原始待评估数据。
该可选的实施例中,可依据所述预设的归一化算法对所述原始待评估数据进行归一化处理获得待评估数据,所述待评估数据包含多个维度,且所述待评估数据中维度的数量与所述降维数据的维度相同,所述待评估数据中每个维度的取值范围是[0,1]。
该可选的实施例中,可将所述待评估数据输入所述任务分类模型以获得所述待评估任务对应的类别,所述待评估任务对应的类别包括无需优化或需要优化。
该可选的实施例中,可分别计算所述待评估数据与每个所述样本数据的余弦相似度,并选取最大余弦相似度对应的样本数据作为基准数据,并将所述基准数据对应的标签数据作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则分类正确,可将所述待评估任务对应的类别作为分类结果推送给用户。
若所述基准类别与所述待评估任务对应的类别不同,则分类失败,可将所述基准类别作为所述待评估数据对应的标签数据,并将所述待评估数据作为训练数据,重新训练所述任务分类模型以提升所述任务分类模型的性能。
如此,利用目标维度选取待评估任务对应的待评估数据,并将待评估数据输入任务分类模型以获得待评估任务的类别,依据样本数据和标签数据评估所述待评估任务是否被正确分类,能够通过未被正确分类的数据持续优化任务分类模型,从而能够提升任务分类模型的性能。
上述基于人工智能的任务优化方法通过采集历史任务相关的多项数据构建了包含多个维度的原始数据,并对原始数据进行降维和预处理获得样本数据,从而提升数据质量,进一步对样本数据进行标注获得样本数据对应的标签数据,利用样本数据和标签数据训练任务分类模型,进而利用该模型对待评估任务进行分类,并依据分类结果对任务分类模型进行持续性优化,从而确保任务分类模型的性能能够不断提升,进而能够持续性增强任务优化的准确性。
如图2所示,是本申请实施例提供的基于人工智能的任务优化装置的较佳实施例的功能模块图。基于人工智能的任务优化装置11包括采集单元110、降维单元111、预处理单元112、标注单元113、训练单元114、分类单元115。本申请所称的模块/单元是指一种能够被处理器13所执行,并且能够完成固定功能的一系列计算机程序段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
在一个可选的实施例中,采集单元110用于采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度。
该可选的实施例中,所述历史任务指企业为了提升业务效率而在服务器中运行的多种数据处理任务,所述多种数据处理任务的功能包括数据查询、数据清洗、数据聚合等。
该可选的实施例中,所述历史任务相关的多项数据包括所述历史任务的类别、运行时长、运行结果、资源占用率、所述历史任务分析的数据量、所述历史任务调用的程序接口,所述资源占用率指所述历史任务占用所述服务器资源的比例,所述资源占用率包括CPU占用率、内存占用率、I/O占用率。
该可选的实施例中,可从预设的任务运行日志中查询每个历史任务相关的多项数据作为每个历史任务对应的原始数据,所述原始数据为1行n列的向量,其中n代表所述多项数据的数量,且所述原始数据中的每一列代表所述原始数据的一个维度。
在一个可选的实施例中,降维单元111用于对所述原始数据进行降维处理获得降维数据和多个目标维度。
在一个可选的实施例中,所述对所述原始数据进行降维处理获得降维数据和多个目标维度,包括:
依据预设的降维算法计算所述原始数据中每个维度的重要性;
依据所述重要性选取预设数量的所述维度作为目标维度;
将所述原始数据中的目标维度作为所述原始数据对应的降维数据。
该可选的实施例中,所述预设的降维算法可以是PCA算法(Principle ComponentAnalysis,主成分分析算法)、SVD算法(Singular Value Decomposition,奇异值分解算法)等现有的数据降维算法,本申请对此不做限定,所述预设的降维算法的输出为所述原始数据中每个维度的重要性,所述重要性越高则表明该重要性对应的维度对于原始数据的表征越重要。
该可选的实施例中,所述预设数量可以是0.8n、0.6n、0.4n等,本申请对此不做限定,其中,n代表所述原始数据的维度的数量。示例性的,当所述预设数量为0.8n时,则可依据所述重要性由高到低的顺序对所述维度进行排序,并选取次序为前0.8n的维度作为目标维度。
该可选的实施例中,可将所述原始数据中的目标维度作为降维数据。
在一个可选的实施例中,预处理单元112用于对所述降维数据进行预处理以获得样本数据。
在一个可选的实施例中,所述对所述降维数据进行预处理获得样本数据,包括:
从所述降维数据中删除具备缺失值的降维数据,将剩余的降维数据作为第一备选数据;
从所述第一备选数据中删除具备异常值的第一备选数据,将剩余第一备选数据作为第二备选数据;
分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据。
该可选的实施例中,为了避免数据缺失对后续数据分析的准确性造成消极影响,可查询每个降维数据中是否具备缺失值,若某一个降维数据中任意一个维度的数值存在缺失,则删除该降维数据,直到删除所有具备缺失值的降维数据,获得第一备选数据。
该可选的实施例中,当所述第一备选数据中某个维度的数值与所有第一备选数据中该维度数值的均值的偏差大于两倍的标准差,则该维度的数值为异常值,可删除所有具备异常值的第一备选数据,以获得第二备选数据。
该可选的实施例中,为了消除所述第二备选数据中每个维度的量纲差异,可依据预设的归一化算法分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据,所述预设的归一化算法可以是最大化算法、最小化算法、反正切函数算法、S型生长曲线算法等现有的归一化算法,本申请对此不做限定。
所述样本数据的维度与所述降维数据的维度相同,且所述样本数据中每个维度的数值的取值范围是[0,1]。
在一个可选的实施例中,标注单元113用于对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据。
在一个可选的实施例中,所述对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据,包括:
对所述样本数据进行聚类获得多个样本分组,并分别计算每个样本分组中样本数据的均值;
针对每个样本分组,分别计算每个样本数据与所述样本数据的均值之间的欧式距离,并将最小欧式距离对应的样本数据作为代表性数据,得到每个所述样本分组的代表性数据,其中,每个所述代表性数据均对应一个历史任务;
依据预设的历史优化记录查询所述代表性数据对应的历史任务的优化结果,并依据所述优化结果标注所述代表性数据所属的样本分组中所有样本数据,得到标签数据,所述优化结果包括无需优化和需要优化。
在一个可选的实施例中,所述对所述样本数据进行聚类获得多个样本分组,包括:
a,依据预设的分组参数从所有样本数据中选取多个目标数据,所述目标数据的数量与所述分组参数相同,示例性的,所述预设的分组参数可以是2;
b,任选一个未被选择过的样本数据作为当前数据,分别计算所述当前数据与每个目标数据的余弦相似度,并将所述当前数据与最大余弦相似度对应的目标数据归为同一个备选分组;
c,重复执行步骤b,直到所有样本数据都被归为备选分组,获得多个备选分组,所述样本分组的数量与所述预设的分组参数相同;
d,分别计算每个样本分组中所有样本数据的均值,并计算属于同一样本分组的均值与所述目标数据的差值,若所述差值小于预设的终止阈值,则将所述多个备选分组作为多个样本分组,若所述差值大于所述预设的终止阈值,则将所述均值作为目标数据,并重复执行步骤b至步骤d,以获得多个样本分组。
该可选的实施例中,由于每个所述样本分组中所有的样本数据较为相似,因此可计算所述样本分组中所有样本数据的均值,并选取与所述均值之间欧式距离最小的样本数据作为所述样本分组的代表性数据,所述代表性数据能够表征所述样本分组中所有样本数据的维度。
该可选的实施例中,所述预设的历史优化记录用以记录所有历史任务的优化结果,所述优化结果包括无需优化和需要优化,可利用所述代表性数据对应历史任务的优化结果标记所述代表性数据所属样本分组中的所有样本数据。
在一个可选的实施例中,训练单元114用于依据所述样本数据和所述标签数据训练任务分类模型。
在一个可选的实施例中,所述依据所述样本数据和所述标签数据训练任务分类模型,包括:
在一个可选的实施例中,所述依据所述样本数据和所述标签数据训练任务分类模型,包括:
a,将所述样本数据与所述标签数据一一对应作为训练数据,并依据预设的划分比例将所述训练数据划分为多个子集,将所有子集标记为未访问,任选一个子集作为验证集,将该子集标记为已访问,并将其余子集中所有的样本数据作为训练集。示例性的,当所述预设的划分比例为10%,则可将所述训练数据划分为10个子集,每个子集包含10%的样本数据。
b,利用所述训练集中所有的样本数据训练预设的初始分类模型获得备选分类模型,所述预设的初始分类模型可以是GBDT模型(Gradient Boosting Decision Tree,梯度上升树)、XGBoost模型(Extreme Gradient Boosting,极端梯度增强算法)、LightGBM模型(Light Gradient Boosting Machine,轻量梯度上升机器模型)等现有的分类模型,本申请对此不做限定。
所述初始分类模型的训练方法可以是贝叶斯调参法。
c,依据所述验证集中的样本数据和标签数据计算所述备选分类模型的分类准确度。
将所述验证集中的样本数据输入所述备选分类模型获得分类结果,计算分类正确的数量与验证集中样本数据总数的比值作为该备选分类模型的分类准确度。
d,任选一个标记为未访问的子集作为验证集,并将其余子集作为训练集,重复执行步骤b至步骤d以获得多个备选分类模型和每个备选分类模型对应的分类准确度,直到所有子集都被标记为已访问,获得多个备选分类模型和每个备选分类模型对应的分类准确度。
e,选取所述分类准确度中最大值对应的备选分类模型作为任务分类模型,所述任务分类模型的功能是接收所述历史任务对应的样本数据,并输出所述历史任务对应的类别。
在一个可选的实施例中,分类单元115用于依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
在一个可选的实施例中,所述依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化,包括:
依据所述目标维度采集与待评估任务相关的多项数据作为原始待评估数据;
对所述原始待评估数据进行归一化处理获得待评估数据;
将所述待评估数据输入所述任务分类模型获得所述待评估任务的类别;
分别计算所述待评估数据与每个样本数据的余弦相似度,将最大余弦相似度对应样本数据的类别作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则将所述待评估任务对应的类别作为分类结果推送给用户,否则将所述待评估数据作为训练数据重新训练所述任务分类模型。
所述待评估任务指需要进行分类的数据处理任务。
该可选的实施例中,可依据所述目标维度采集所述待评估任务相关的各项数据作为原始待评估数据,示例性的,当所述目标维度包括运行时长、CPU占用率,则可采集所述待评估任务的运行时长和CPU占用率以作为原始待评估数据。
该可选的实施例中,可依据所述预设的归一化算法对所述原始待评估数据进行归一化处理获得待评估数据,所述待评估数据包含多个维度,且所述待评估数据中维度的数量与所述降维数据的维度相同,所述待评估数据中每个维度的取值范围是[0,1]。
该可选的实施例中,可将所述待评估数据输入所述任务分类模型以获得所述待评估任务对应的类别,所述待评估任务对应的类别包括无需优化或需要优化。
该可选的实施例中,可分别计算所述待评估数据与每个所述样本数据的余弦相似度,并选取最大余弦相似度对应的样本数据作为基准数据,并将所述基准数据对应的标签数据作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则分类正确,可将所述待评估任务对应的类别作为分类结果推送给用户。
若所述基准类别与所述待评估任务对应的类别不同,则分类失败,可将所述基准类别作为所述待评估数据对应的标签数据,并将所述待评估数据作为训练数据,重新训练所述任务分类模型以提升所述任务分类模型的性能。
上述基于人工智能的任务优化方法通过采集历史任务相关的多项数据构建了包含多个维度的原始数据,并对原始数据进行降维和预处理获得样本数据,从而提升数据质量,进一步对样本数据进行标注获得样本数据对应的标签数据,利用样本数据和标签数据训练任务分类模型,进而利用该模型对待评估任务进行分类,并依据分类结果对任务分类模型进行持续性优化,从而确保任务分类模型的性能能够不断提升,进而能够持续性增强任务优化的准确性。
如图3所示,是本申请实施例提供的一种电子设备的结构示意图。电子设备1包括存储器12和处理器13。存储器12用于存储计算机可读指令,处理器13用执行储器中存储的计算机可读指令以实现上述任一实施例的基于人工智能的任务优化方法。
在一个可选的实施例中,电子设备1还包括总线、存储在存储器12中并可在处理器13上运行的计算机程序,例如基于人工智能的任务优化程序。
图3仅示出了具有组件12-13的电子设备1,本领域技术人员可以理解的是,图3示出的结构并不构成对电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
结合图1,电子设备1中的存储器12存储多个计算机可读指令以实现一种基于人工智能的任务优化方法,处理器13可执行多个指令从而实现:
采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度;
对所述原始数据进行降维处理获得降维数据和多个目标维度;
对所述降维数据进行预处理以获得样本数据;
对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据;
依据所述样本数据和所述标签数据训练任务分类模型;
依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
具体地,处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,电子设备1既可以是总线型结构,也可以是星形结构,电子设备1还可以包括比图示更多或更少的其他硬件或者软件,或者不同的部件布置,例如电子设备1还可以包括输入输出设备、网络接入设备等。
需要说明的是,电子设备1仅为举例,其他现有的或今后可能出现的电子产品如可适应于本申请,也应包含在本申请的保护范围以内,并以引用方式包含于此。
其中,存储器12至少包括一种类型的可读存储介质,所述可读存储介质可以是非易失性的,也可以是易失性的。所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器12在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。存储器12在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器12还可以既包括电子设备1的内部存储单元也包括外部存储设备。存储器12不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如基于人工智能的任务优化程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
处理器13在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。处理器13是电子设备1的控制核心(Control Unit),利用各种接口和线路连接整个电子设备1的各个部件,通过运行或执行存储在存储器12内的程序或者模块(例如执行基于人工智能的任务优化程序等),以及调用存储在存储器12内的数据,以执行电子设备1的各种功能和处理数据。
处理器13执行电子设备1的操作***以及安装的各类应用程序。处理器13执行所述应用程序以实现上述各个基于人工智能的任务优化方法实施例中的步骤,例如图1所示的步骤。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在存储器12中,并由处理器13执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该指令段用于描述所述计算机程序在电子设备1中的执行过程。例如,所述计算机程序可以被分割成采集单元110、降维单元111、预处理单元112、标注单元113、训练单元114、分类单元115。
上述以软件功能模块的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、计算机设备,或者网络设备等)或处理器(processor)执行本申请各个实施例所述基于人工智能的任务优化方法的部分。
电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指示相关的硬件设备来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存储器及其他存储器等。
进一步地,计算机可读存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
总线可以是外设部件互连标准(Peripheral Component Interconnect,简称PCI)总线或扩展工业标准结构(Extended Industry Standard Architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,在图3中仅用一根箭头表示,但并不表示仅有一根总线或一种类型的总线。所述总线被设置为实现存储器12以及至少一个处理器13等之间的连接通信。
尽管未示出,电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器13逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
本申请实施例还提供一种计算机可读存储介质(图未示),计算机可读存储介质中存储有计算机可读指令,计算机可读指令被电子设备中的处理器执行以实现上述任一实施例所述的基于人工智能的任务优化方法。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
在本申请所提供的几个实施例中,应该理解到,所揭露的***,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。说明书陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本申请的技术方案而非限制,尽管参照较佳实施例对本申请进行了详细说明,本领域的普通技术人员应当理解,可以对本申请的技术方案进行修改或等同替换,而不脱离本申请技术方案的精神和范围。
Claims (10)
1.一种基于人工智能的任务优化方法,其特征在于,所述方法包括:
采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度;
对所述原始数据进行降维处理获得降维数据和多个目标维度;
对所述降维数据进行预处理以获得样本数据;
对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据;
依据所述样本数据和所述标签数据训练任务分类模型;
依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
2.如权利要求1所述的基于人工智能的任务优化方法,其特征在于,所述对所述原始数据进行降维处理获得降维数据和多个目标维度,包括:
依据预设的降维算法计算所述原始数据中每个维度的重要性;
依据所述重要性选取预设数量的所述维度作为目标维度;
将所述原始数据中的目标维度作为所述原始数据对应的降维数据。
3.如权利要求1所述的基于人工智能的任务优化方法,其特征在于,所述对所述降维数据进行预处理以获得样本数据,包括:
从所述降维数据中删除具备缺失值的降维数据,将剩余的降维数据作为第一备选数据;
从所述第一备选数据中删除具备异常值的第一备选数据,将剩余第一备选数据作为第二备选数据;
分别对所述第二备选数据中每个维度的数值进行归一化处理获得样本数据。
4.如权利要求1所述的基于人工智能的任务优化方法,其特征在于,所述对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据,包括:
对所述样本数据进行聚类获得多个样本分组,并分别计算每个样本分组中样本数据的均值;
针对每个样本分组,分别计算每个样本数据与所述样本数据的均值之间的欧式距离,并将最小欧式距离对应的样本数据作为代表性数据,得到每个所述样本分组的代表性数据,其中,每个所述代表性数据均对应一个历史任务;
依据预设的历史优化记录查询所述代表性数据对应的历史任务的优化结果,并依据所述优化结果标注所述代表性数据所属的样本分组中所有样本数据,得到标签数据,所述优化结果包括无需优化和需要优化。
5.如权利要求4所述的基于人工智能的任务优化方法,其特征在于,所述对所述样本数据进行聚类获得多个样本分组,包括:
a,依据预设的分组参数从所有样本数据中选取多个目标数据,所述目标数据的数量与所述分组参数相同;
b,任选一个未被选择过的样本数据作为当前数据,分别计算所述当前数据与每个目标数据的余弦相似度,并将所述当前数据与最大余弦相似度对应的目标数据归为同一个备选分组;
c,重复执行步骤b,直到所有样本数据都被归为备选分组,获得多个备选分组;
d,分别计算每个样本分组中所有样本数据的均值,并计算属于同一样本分组的均值与所述目标数据的差值,若所述差值小于预设的终止阈值,则将所述多个备选分组作为多个样本分组,若所述差值大于所述预设的终止阈值,则将所述均值作为目标数据,并重复执行步骤b至步骤d,以获得多个样本分组。
6.如权利要求1所述的基于人工智能的任务优化方法,其特征在于,所述依据所述样本数据和所述标签数据训练任务分类模型,包括:
a,将所述样本数据与所述标签数据一一对应作为训练数据,并依据预设的划分比例将所述训练数据划分为多个子集,将所有子集标记为未访问,任选一个子集作为验证集,将该子集标记为已访问,并将其余子集中所有的样本数据作为训练集;
b,利用所述训练集中所有的样本数据训练预设的初始分类模型获得备选分类模型;
c,依据所述验证集中的样本数据和标签数据计算所述备选分类模型的分类准确度;
d,任选一个标记为未访问的子集作为验证集,并将其余子集作为训练集,重复执行步骤b至步骤d以获得多个备选分类模型和每个备选分类模型对应的分类准确度,直到所有子集都被标记为已访问,获得多个备选分类模型和每个备选分类模型对应的分类准确度;
e,选取所述分类准确度中最大值对应的备选分类模型作为任务分类模型,所述任务分类模型的功能是接收所述历史任务对应的样本数据,并输出所述历史任务对应的类别。
7.如权利要求1所述的基于人工智能的任务优化方法,其特征在于,所述依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化,包括:
依据所述目标维度采集与待评估任务相关的多项数据作为原始待评估数据;
对所述原始待评估数据进行归一化处理获得待评估数据;
将所述待评估数据输入所述任务分类模型获得所述待评估任务的类别;
分别计算所述待评估数据与每个样本数据的余弦相似度,将最大余弦相似度对应样本数据的类别作为基准类别,若所述基准类别与所述待评估任务对应的类别相同,则将所述待评估任务对应的类别作为分类结果推送给用户,否则将所述待评估数据作为训练数据重新训练所述任务分类模型。
8.一种基于人工智能的任务优化装置,其特征在于,所述装置包括:
采集单元,用于采集与历史任务相关的多项数据作为原始数据,所述原始数据包含多个维度;
降维单元,用于对所述原始数据进行降维处理获得降维数据和多个目标维度;
预处理单元,用于对所述降维数据进行预处理以获得样本数据;
标注单元,用于对所述样本数据进行聚类获得多个样本分组,对每个所述样本分组中的样本数据进行标注获得标签数据;
训练单元,用于依据所述样本数据和所述标签数据训练任务分类模型;
分类单元,用于依据所述目标维度采集与待评估任务相关的待评估数据,并将所述待评估数据输入所述任务分类模型获得分类结果,依据分类结果对待评估任务进行优化。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的基于人工智能的任务优化方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的基于人工智能的任务优化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210871767.6A CN115146865A (zh) | 2022-07-22 | 2022-07-22 | 基于人工智能的任务优化方法及相关设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210871767.6A CN115146865A (zh) | 2022-07-22 | 2022-07-22 | 基于人工智能的任务优化方法及相关设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115146865A true CN115146865A (zh) | 2022-10-04 |
Family
ID=83414124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210871767.6A Pending CN115146865A (zh) | 2022-07-22 | 2022-07-22 | 基于人工智能的任务优化方法及相关设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115146865A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116010602A (zh) * | 2023-01-10 | 2023-04-25 | 孔祥山 | 一种基于大数据的数据调优方法及*** |
CN116402113A (zh) * | 2023-06-08 | 2023-07-07 | 之江实验室 | 一种任务执行的方法、装置、存储介质及电子设备 |
CN117315445A (zh) * | 2023-11-28 | 2023-12-29 | 苏州元脑智能科技有限公司 | 目标识别方法、装置、电子设备及可读存储介质 |
CN117666971A (zh) * | 2024-01-31 | 2024-03-08 | 之江实验室 | 一种工业领域的数据存储方法、装置及设备 |
CN117707747A (zh) * | 2024-02-06 | 2024-03-15 | 山东省计算中心(国家超级计算济南中心) | 基于资源使用率预测的作业超量分配调度方法及*** |
CN117806833A (zh) * | 2024-02-28 | 2024-04-02 | 苏州元脑智能科技有限公司 | 一种数据处理***、方法及介质 |
-
2022
- 2022-07-22 CN CN202210871767.6A patent/CN115146865A/zh active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116010602A (zh) * | 2023-01-10 | 2023-04-25 | 孔祥山 | 一种基于大数据的数据调优方法及*** |
CN116010602B (zh) * | 2023-01-10 | 2023-09-29 | 湖北华中电力科技开发有限责任公司 | 一种基于大数据的数据调优方法及*** |
CN116402113A (zh) * | 2023-06-08 | 2023-07-07 | 之江实验室 | 一种任务执行的方法、装置、存储介质及电子设备 |
CN116402113B (zh) * | 2023-06-08 | 2023-10-03 | 之江实验室 | 一种任务执行的方法、装置、存储介质及电子设备 |
CN117315445A (zh) * | 2023-11-28 | 2023-12-29 | 苏州元脑智能科技有限公司 | 目标识别方法、装置、电子设备及可读存储介质 |
CN117315445B (zh) * | 2023-11-28 | 2024-03-22 | 苏州元脑智能科技有限公司 | 目标识别方法、装置、电子设备及可读存储介质 |
CN117666971A (zh) * | 2024-01-31 | 2024-03-08 | 之江实验室 | 一种工业领域的数据存储方法、装置及设备 |
CN117666971B (zh) * | 2024-01-31 | 2024-04-30 | 之江实验室 | 一种工业领域的数据存储方法、装置及设备 |
CN117707747A (zh) * | 2024-02-06 | 2024-03-15 | 山东省计算中心(国家超级计算济南中心) | 基于资源使用率预测的作业超量分配调度方法及*** |
CN117707747B (zh) * | 2024-02-06 | 2024-05-24 | 山东省计算中心(国家超级计算济南中心) | 基于资源使用率预测的作业超量分配调度方法及*** |
CN117806833A (zh) * | 2024-02-28 | 2024-04-02 | 苏州元脑智能科技有限公司 | 一种数据处理***、方法及介质 |
CN117806833B (zh) * | 2024-02-28 | 2024-04-30 | 苏州元脑智能科技有限公司 | 一种数据处理***、方法及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115146865A (zh) | 基于人工智能的任务优化方法及相关设备 | |
CN112801718B (zh) | 用户行为预测方法、装置、设备及介质 | |
CN112541745A (zh) | 用户行为数据分析方法、装置、电子设备及可读存储介质 | |
CN112883190A (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN113626607B (zh) | 异常工单识别方法、装置、电子设备及可读存储介质 | |
CN113157927A (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN112288337B (zh) | 行为推荐方法、装置、设备及介质 | |
CN112883730B (zh) | 相似文本匹配方法、装置、电子设备及存储介质 | |
CN114491047A (zh) | 多标签文本分类方法、装置、电子设备及存储介质 | |
CN114612194A (zh) | 产品推荐方法、装置、电子设备及存储介质 | |
CN112560465A (zh) | 批量异常事件的监控方法、装置、电子设备及存储介质 | |
CN113658002B (zh) | 基于决策树的交易结果生成方法、装置、电子设备及介质 | |
WO2023040145A1 (zh) | 基于人工智能的文本分类方法、装置、电子设备及介质 | |
CN114756669A (zh) | 问题意图的智能分析方法、装置、电子设备及存储介质 | |
CN113344125A (zh) | 长文本匹配识别方法、装置、电子设备及存储介质 | |
CN112801222A (zh) | 基于二分类模型的多分类方法、装置、电子设备及介质 | |
CN113313211A (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN112052310A (zh) | 基于大数据的信息获取方法、装置、设备及存储介质 | |
CN111429085A (zh) | 合同数据生成方法、装置、电子设备及存储介质 | |
CN115146064A (zh) | 意图识别模型优化方法、装置、设备及存储介质 | |
CN114996386A (zh) | 业务角色识别方法、装置、设备及存储介质 | |
CN114841165A (zh) | 用户数据分析及展示方法、装置、电子设备及存储介质 | |
CN114881001A (zh) | 基于人工智能的报表生成方法及相关设备 | |
CN114708073A (zh) | 一种围标串标智能检测方法、装置、电子设备及存储介质 | |
CN114722146A (zh) | 基于人工智能的供应链资产校验方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |