CN114117029B - 一种基于多层次信息增强的解决方案推荐方法及*** - Google Patents
一种基于多层次信息增强的解决方案推荐方法及*** Download PDFInfo
- Publication number
- CN114117029B CN114117029B CN202111407122.9A CN202111407122A CN114117029B CN 114117029 B CN114117029 B CN 114117029B CN 202111407122 A CN202111407122 A CN 202111407122A CN 114117029 B CN114117029 B CN 114117029B
- Authority
- CN
- China
- Prior art keywords
- work order
- representation vector
- information
- vector
- title
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 239000013598 vector Substances 0.000 claims abstract description 148
- 239000013604 expression vector Substances 0.000 claims abstract description 19
- 238000000605 extraction Methods 0.000 claims abstract description 17
- 230000006870 function Effects 0.000 claims abstract description 14
- 230000007246 mechanism Effects 0.000 claims abstract description 14
- 238000003860 storage Methods 0.000 claims description 9
- 230000003044 adaptive effect Effects 0.000 claims description 4
- 230000004927 fusion Effects 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 5
- 238000004590 computer program Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 6
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000005065 mining Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/258—Heading extraction; Automatic titling; Numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于多层次信息增强的解决方案推荐方法及***,对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;根据局部信息表示向量和全局信息表示向量得到综合表示向量;根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果;本发明能够自动对工单数据进行分析处理,挖掘出客户的潜在诉求,实现了潜在诉求对应的解决方***推荐。
Description
技术领域
本发明涉及电力工单数据处理技术领域,特别涉及一种基于多层次信息增强的解决方案推荐方法及***。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术,并不必然构成现有技术。
电网企业业务复杂,企业生产经营中有大量的半结构、非结构化的文本数据,电网企业生产经营过程中有大量的文本数据,涉及到电子、化学、机械、信息等多种专业领域,例如电力中的检修报告中包含了专业设备有关机械、化学、物理、电子等多个专业领域,涉及到多种专业的知识。此类文本数据属于低密度价值数据,存在数据量大、结构复杂、缺乏规范等特点,是目前数据分析和挖掘的难点区域之一。
电力186客服***中的工单就属于这种典型数据,这类文本数据中主要采用口语化的描述形式,记录了大量的电力业务特性,但同时文本中也包含了很多电力专业术语,这类文本数据的格式不统一,内容差异较大,目前主要通过坐席人员的判断对工单内容进行处理和分类,由于依靠人工的经验,导致处理及时性较低,分类规则不一致,不能有效发现客户的真实诉求。
人工智能、文本挖掘技术逐渐被应用到电力的各种场景中,这种方式通常停留在对文本浅层特征的表示学习,而缺乏细粒度,深层次的语义理解,这种浅层的表示方法难以全面地捕获工单描述中所蕴含的隐藏语义信息,从而导致解决方案推荐性能的下降。
发明内容
为了解决现有技术的不足,本发明提供了一种基于多层次信息增强的解决方案推荐方法及***,能够自动对工单数据进行分析处理,挖掘出客户的潜在诉求,实现了潜在诉求对应的解决方***推荐。
为了实现上述目的,本发明采用如下技术方案:
本发明第一方面提供了一种基于多层次信息增强的解决方案推荐方法。
一种基于多层次信息增强的解决方案推荐方法,包括以下过程:
获取工单数据中的工单标题、工单描述和客户信息;
对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;
根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;
根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
根据局部信息表示向量和全局信息表示向量得到综合表示向量;
根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
进一步的,采用基于图模型的特征词提取算法分别进行工单标题、工单描述和客户信息的关键词特征提取。
进一步的,根据特征提取结果,分别得到工单标题序列、工单描述序列和客户信息序列,通过嵌入向量对工单标题序列、工单描述序列和客户信息序列进行嵌入表示学习,得到工单标题向量、工单描述向量和客户信息向量。
更进一步的,根据间隔点积注意力机制,学习客户信息向量与工单标题向量之间的关联关系以及客户信息与工单描述向量之间的关联关系,得到工单标题表示向量与工单描述表示向量。
进一步的,自回归模型为Transformer模型。
进一步的,将局部信息表示向量和全局信息表示向量进行自适应融合,得到工单数据的综合表示向量。
更进一步的,所述自适应融合,包括:
Out=Norm(Concat(ACT-Skip([CL,OL]),ACT-Skip([CD,OD])))
ACT-Skip([CL,OL])=OL*σ(CL+OL)+(1-σ(CL+OL))*CL
ACT-Skip([CD,OD])=OD*σ(CD+OD)+(1-σ(CD+OD))*CD
其中,σ(·)表示sigmoid函数,Norm(·)表示层归一化操作,CL为工单标题局部信息表示向量,CD为工单描述局部信息表示向量,OL为工单标题全局信息表示向量,OD工单描述全局信息表示向量。
本发明第二方面提供了一种基于多层次信息增强的解决方案推荐***。
一种基于多层次信息增强的解决方案推荐***,包括:
数据获取模块,被配置为:获取工单数据中的工单标题、工单描述和客户信息;
向量表示模块,被配置为:对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;
注意力学习模块,被配置为:根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;
局部表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
全局表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
综合表示向量获取模块,被配置为:根据局部信息表示向量和全局信息表示向量得到综合表示向量;
解决方案推荐模块,被配置为:根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
本发明第三方面提供了一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现上述的基于多层次信息增强的解决方案推荐方法中的步骤。
本发明第四方面提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现上述的基于多层次信息增强的解决方案推荐方法中的步骤。
与现有技术相比,本发明的有益效果是:
1、本发明所述的方法、***、介质或电子设备,分别从工单标题、工单描述和客户信息等三个层次进行关键词提取,并引入间隔点击注意力机制分别学习客户信息与工单标题向量之间的关联关系以及客户信息与工单描述向量之间的关联关系,从而获得工单数据的表示向量,提高了解决方案推荐的性能。
2、本发明所述的方法、***、介质或电子设备,利用一维卷积操作分别对工单标题表示向量和工单描述表示向量进行局部依赖信息挖掘,生成局部信息表示向量;同时采用自回归模型(Transformer)来捕获工单标题表示向量和工单描述表示向量的全局信息,生成全局信息表示向量;并利用自适应信息融合方法将工单数据的局部信息向量和全局信息向量相结合,生成工单数据的综合表示向量,进一步的提高了解决方案推荐的性能。
本发明附加方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1为本发明实施例1提供的解决方案推荐方法的整体训练流程示意图。
图2为本发明实施例1提供的解决方案推荐实施例流程图。
图3为本发明实施例1提供的解决方案推荐***结构示意图。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
应该指出,以下详细说明都是示例性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
实施例1:
本发明实施例1提供了一种基于多层次信息增强的解决方案推荐方法,包括以下过程:
获取工单数据中的工单标题、工单描述和客户信息;
对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;
根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;
根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
根据局部信息表示向量和全局信息表示向量得到综合表示向量;
根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
在进行模型训练时,首先基于用户历史的电力客服数据,采用Text Rank算法分别从工单标题、工单描述和客户信息等三个层次进行关键词特征提取;然后引用点击注意力机制来增强工单数据中的标题信息与描述信息的表示,并利用客户信息“查询”并重构工单数据中的标题信息与描述信息,从而生成工单标题和描述的表示向量;基于获得的工单标题和工单描述的表示向量,使用一维卷积与Transformer来捕获工单数据中的局部时序依赖和全局时序依赖信息;最后,采用自适应融合方法将获得全局信息与局部信息相融合用于解决方案推荐,从而提高推荐性能。具体的步骤如图1和图2所示,包括:
S1:对海量电力信息进行相关电力客服数据的采集,包含历史工单数据、客户信息和相应的解决方案等,对获取的客服数据预处理,包含数据清洗、缺失数据补全、数据定义并存储。
具体地,基于某公司电力186客服***中获取的数据,包括从2021年5月1日到2021年5月31日3638名客户共计16259条工单数据。该数据中包含工单标题、工单描述、客户信息和对应的解决方案等数据信。
S2:基于历史客服数据,首先采用TextRank算法进行关键词提取,然后再采用嵌入向量进行信息嵌入表示学习。
S2.1:本实施采用基于图模型的特征词提取方法(TextRank算法)来进行关键特征词的提取。通过将文本看成是由若干个词组成并建立对应的图模型,然后利用投票机制对文本中的重要的词进行排序,这样仅仅依靠文本自身的结构关系即可实现特征词的提取,这种方法简单有效且应用十分广泛。
该算法的权值迭代公式如公式所示:
其中d为调节系数,通常取值为0.85;In(Vi)表示指向Vi节点的所有的节点的集合,Out(Vj)指的是Vj节点所指向的节点的集合;|Out(Vj)|指的是集合中节点的个数。
S2.2:基于S2.1关键词特征提取结果,定义工单标题序列工单描述序列/>和客户信息序列/>其中M,N,S分别表示的是标题序列、客户信息序列和工单描述序列中最长语句的单词数量,T表示工单数目。
通过嵌入向量对上述信息进行嵌入表示学习,方式如下:
EL=LWL
EP=PWP
ED=DWD
其中,
S3:基于S2获得的工单标题、工单描述和客户信息的嵌入向量,引入间隔点积注意力机制(Scaled Dot-Product Attention)分别学习客户信息与工单标题之间的关联关系以及客户信息与工单描述之间的关联关系,从而生成工单标题信息与描述信息的表示向量RL和RD:
其中,Norm(·)表示层归一化操作。
S4:基于S3获得的工单标题表示向量与工单描述表示向量,采用一维卷积操作来生成局部信息表示向量;同时采用Transformer来生成全局信息表示向量。
一方面,采用一维卷积操作分别对工单标题和工单描述中的局部时序依赖信息进行挖掘,生成局部上下文信息表示向量CL和CD。
在本实施例中,发明人将卷积核的大小设定为[2,dembedding]:
CL=Conv1D(RC)
DD=Conv1D(RD)
另一方面,采用Transformer来捕获工单标题表示向量和工单描述表示向量的全局信息,分别生成工单标题和工单描述的全局信息表示向量OL和OD。
工单标题的全局信息表示向量OL实现如下:
Q′L=K′L=V′L=EL
OL=Norm(FFN(Norm(MultiHead(Q′L,K′L,V′L)+EL))+Norm(MultiHead(Q′L,K′L,V′L)+EL))
其中,均代表的是权重参数矩阵,FFN(·)表示前馈神经网络。
工单描述的全局信息表示向量OD:
Q′D=K′D=V′D=ED
OD=Norm(FFN(Norm(MultiHead(Q′D,K′D,V′D)+ED))+Norm(MultiHeas(Q′D,K′D,V′D)+ED))
其中,均代表的是权重参数矩阵,FFN(·)表示前馈神经网络。
S5:为了能够全面地将获得的全局上下文信息表示与局部数据的信息表示相结合,本实施例提供了一种自适应信息融合方式来生成工单数据的综合表示向量Out:
Out=Norm(Concat(ACT-Skip([CL,OL]),ACT-Skip([CD,OD])))
ACT-Skip([CL,OL])=OL*σ(CL+OL)+(1-σ(CL+OL))*CL
ACT-Skip([CD,OD])=OD*σ(CD+OD)+(1-σ(CD+OD))*CD
其中,σ(·)表示sigmoid函数。
S6:基于S5获得的综合表示向量Out,对待检测样本进行解决方案推荐,输入softmax层进行结果推荐:
y′=Softmax(MLP(Out))
其中,y′表示最终的推荐结果;MLP(·)表示的是多层感知机操作。
对待测试样本进行电力客服解决方案推荐,将推荐结果进行推送,并与实际用情况进行结果对比,本实施例采用准确性、Micro F1和AUROC来作为推荐方法的评价指标,对比结果如表1所示。
表1推荐方法对比情况
Model | 准确性 | Micro F1 | AUROC |
GRU | 0.2833 | 0.1335 | 0.5853 |
GRU-Att | 0.3164 | 0.1726 | 0.6166 |
BiGRU | 0.2786 | 0.1441 | 0.5932 |
Conv-GRU | 0.3733 | 0.2132 | 0.6489 |
Conv-BiGRU | 0.3705 | 0.2096 | 0.6449 |
Transformer-E | 0.3662 | 0.2189 | 0.6557 |
Ours | 0.3994 | 0.2434 | 0.6739 |
基于表1中的结果可得,本实施例所提出的推荐方法的性能优于其他方法。
实施例2:
如图3所示,本发明实施例2提供了一种基于多层次信息增强的解决方案推荐***,包括:
数据获取模块,被配置为:获取工单数据中的工单标题、工单描述和客户信息;
向量表示模块,被配置为:对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;
注意力学习模块,被配置为:根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;
局部表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
全局表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
综合表示向量获取模块,被配置为:根据局部信息表示向量和全局信息表示向量得到综合表示向量;
解决方案推荐模块,被配置为:根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
实施例3:
本发明实施例3提供了一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现实施例1所述的基于多层次信息增强的解决方案推荐方法中的步骤。
实施例4:
本发明实施例4提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现实施例1所述的基于多层次信息增强的解决方案推荐方法中的步骤。
本领域内的技术人员应明白,本发明的实施例可提供为方法、***、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(RandomAccessMemory,RAM)等。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于多层次信息增强的解决方案推荐方法,其特征在于:
包括以下过程:
获取工单数据中的工单标题、工单描述和客户信息;
对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;根据特征提取结果,分别得到工单标题序列、工单描述序列和客户信息序列,通过嵌入向量对工单标题序列、工单描述序列和客户信息序列进行嵌入表示学习,得到工单标题向量、工单描述向量和客户信息向量;
根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;根据间隔点积注意力机制,学习客户信息向量与工单标题向量之间的关联关系以及客户信息与工单描述向量之间的关联关系,得到工单标题表示向量与工单描述表示向量;
根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
根据局部信息表示向量和全局信息表示向量得到综合表示向量;
根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
2.如权利要求1所述的基于多层次信息增强的解决方案推荐方法,其特征在于:
采用基于图模型的特征词提取算法分别进行工单标题、工单描述和客户信息的关键词特征提取。
3.如权利要求1所述的基于多层次信息增强的解决方案推荐方法,其特征在于:
自回归模型为Transformer模型。
4.如权利要求1所述的基于多层次信息增强的解决方案推荐方法,其特征在于:
将局部信息表示向量和全局信息表示向量进行自适应融合,得到工单数据的综合表示向量。
5.如权利要求4所述的基于多层次信息增强的解决方案推荐方法,其特征在于:
所述自适应融合,包括:
Out=Norm(Concat(ACT-Skip([CL,OL]),ACT-Skip([CD,OD])))
ACT-Skip([CL,OL])=OL*σ(CL+OL)+(1-σ(CL+OL))*CL
ACT-Skip([CD,OD])=OD*σ(CD+OD)+(1-σ(CD+OD))*CD
其中,σ(·)表示sigmoid函数,Norm(·)表示层归一化操作,CL为工单标题局部信息表示向量,CD为工单描述局部信息表示向量,OL为工单标题全局信息表示向量,OD工单描述全局信息表示向量。
6.一种基于多层次信息增强的解决方案推荐***,其特征在于:
包括:
数据获取模块,被配置为:获取工单数据中的工单标题、工单描述和客户信息;
向量表示模块,被配置为:对获取的工单标题、工单描述和客户信息分别进行特征提取,对特征提取结果进行嵌入表示学习;根据特征提取结果,分别得到工单标题序列、工单描述序列和客户信息序列,通过嵌入向量对工单标题序列、工单描述序列和客户信息序列进行嵌入表示学习,得到工单标题向量、工单描述向量和客户信息向量;
注意力学习模块,被配置为:根据间隔点积注意力机制以及嵌入表示学习结果,得到工单标题表示向量与工单描述表示向量;根据间隔点积注意力机制,学习客户信息向量与工单标题向量之间的关联关系以及客户信息与工单描述向量之间的关联关系,得到工单标题表示向量与工单描述表示向量;
局部表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及一维卷积模型,得到局部信息表示向量;
全局表示向量获取模块,被配置为:根据工单标题表示向量、工单描述表示向量以及自回归模型,得到全局信息表示向量;
综合表示向量获取模块,被配置为:根据局部信息表示向量和全局信息表示向量得到综合表示向量;
解决方案推荐模块,被配置为:根据综合表示向量和预设推荐函数模型,得到解决方案推荐结果。
7.一种计算机可读存储介质,其上存储有程序,其特征在于,该程序被处理器执行时实现如权利要求1-5任一项所述的基于多层次信息增强的解决方案推荐方法中的步骤。
8.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-5任一项所述的基于多层次信息增强的解决方案推荐方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111407122.9A CN114117029B (zh) | 2021-11-24 | 2021-11-24 | 一种基于多层次信息增强的解决方案推荐方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111407122.9A CN114117029B (zh) | 2021-11-24 | 2021-11-24 | 一种基于多层次信息增强的解决方案推荐方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114117029A CN114117029A (zh) | 2022-03-01 |
CN114117029B true CN114117029B (zh) | 2023-11-24 |
Family
ID=80372706
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111407122.9A Active CN114117029B (zh) | 2021-11-24 | 2021-11-24 | 一种基于多层次信息增强的解决方案推荐方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114117029B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114493377B (zh) * | 2022-04-06 | 2022-07-12 | 广州平云小匠科技有限公司 | 一种工单派单方法及*** |
CN115757528A (zh) * | 2023-01-06 | 2023-03-07 | 卡斯柯信号(北京)有限公司 | 一种信息推荐方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111507550A (zh) * | 2019-01-30 | 2020-08-07 | 广州泰迪智能科技有限公司 | 一种工单问题的最佳解决方案自动推荐方法 |
US20210027178A1 (en) * | 2019-07-26 | 2021-01-28 | Ricoh Company, Ltd. | Recommendation method and recommendation apparatus based on deep reinforcement learning, and non-transitory computer-readable recording medium |
CN112925904A (zh) * | 2021-01-27 | 2021-06-08 | 天津大学 | 一种基于Tucker分解的轻量级文本分类方法 |
-
2021
- 2021-11-24 CN CN202111407122.9A patent/CN114117029B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111507550A (zh) * | 2019-01-30 | 2020-08-07 | 广州泰迪智能科技有限公司 | 一种工单问题的最佳解决方案自动推荐方法 |
US20210027178A1 (en) * | 2019-07-26 | 2021-01-28 | Ricoh Company, Ltd. | Recommendation method and recommendation apparatus based on deep reinforcement learning, and non-transitory computer-readable recording medium |
CN112925904A (zh) * | 2021-01-27 | 2021-06-08 | 天津大学 | 一种基于Tucker分解的轻量级文本分类方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114117029A (zh) | 2022-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111079985B (zh) | 一种基于bert并融合可区分属性特征的刑事案件刑期预测方法 | |
US20200089650A1 (en) | Techniques for automated data cleansing for machine learning algorithms | |
CN114117029B (zh) | 一种基于多层次信息增强的解决方案推荐方法及*** | |
CN109753863A (zh) | 信号分析***和特征提取并对其解译的方法 | |
CN110909125B (zh) | 推文级社会媒体谣言检测方法 | |
Estevez-Velarde et al. | AutoML strategy based on grammatical evolution: A case study about knowledge discovery from text | |
CN114757432A (zh) | 基于流程日志和多任务学习的未来执行活动及时间预测方法及*** | |
Dorle et al. | Political sentiment analysis through social media | |
Irissappane et al. | Leveraging GPT-2 for classifying spam reviews with limited labeled data via adversarial training | |
CN111709225A (zh) | 一种事件因果关系判别方法、装置和计算机可读存储介质 | |
Jeyaraman et al. | Data Engineering Evolution: Embracing Cloud Computing, Machine Learning, and AI Technologies | |
CN115221942A (zh) | 一种基于时序融合和神经网络的设备缺陷预测方法及*** | |
CN114881173A (zh) | 基于自注意力机制的简历分类方法和装置 | |
CN110910235A (zh) | 一种基于用户关系网络的贷中异常行为检测方法 | |
CN113239143B (zh) | 融合电网故障案例库的输变电设备故障处理方法及*** | |
Zhang et al. | Dose My Opinion Count? A CNN-LSTM Approach for Sentiment Analysis of Indian General Elections | |
JP2017174004A (ja) | 文意味分類算出装置、モデル学習装置、方法、及びプログラム | |
CN117093849A (zh) | 一种基于自动生成模型的数字矩阵特征分析方法 | |
CN111325280A (zh) | 一种标签的生成方法及*** | |
KR102466559B1 (ko) | 동적 텍스트 소스를 활용한 ai 기반 의사결정지원 시스템 | |
Roelands et al. | Classifying businesses by economic activity using web-based text mining | |
CN114036319A (zh) | 一种电力知识抽取方法、***、装置及存储介质 | |
Zhu et al. | Software defect prediction model based on stacked denoising auto-encoder | |
Guo | Comparison of neural network and traditional classifiers for twitter sentiment analysis | |
Dash et al. | Towards crafting a smooth and accurate functional link artificial neural networks based on differential evolution and feature selection for noisy database |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |