CN114662652A - 一种基于多模态信息学习的专家推荐方法 - Google Patents
一种基于多模态信息学习的专家推荐方法 Download PDFInfo
- Publication number
- CN114662652A CN114662652A CN202210155520.4A CN202210155520A CN114662652A CN 114662652 A CN114662652 A CN 114662652A CN 202210155520 A CN202210155520 A CN 202210155520A CN 114662652 A CN114662652 A CN 114662652A
- Authority
- CN
- China
- Prior art keywords
- expert
- embedding
- information
- learning
- project
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000012552 review Methods 0.000 claims abstract description 55
- 238000012549 training Methods 0.000 claims abstract description 48
- 230000002159 abnormal effect Effects 0.000 claims abstract description 11
- 238000013528 artificial neural network Methods 0.000 claims abstract description 10
- 230000009193 crawling Effects 0.000 claims abstract description 10
- 230000004927 fusion Effects 0.000 claims abstract description 8
- 238000011156 evaluation Methods 0.000 claims description 16
- 238000011160 research Methods 0.000 claims description 16
- 238000009826 distribution Methods 0.000 claims description 14
- 230000000873 masking effect Effects 0.000 claims description 12
- 239000011159 matrix material Substances 0.000 claims description 9
- 238000003062 neural network model Methods 0.000 claims description 8
- 239000013598 vector Substances 0.000 claims description 7
- 230000000694 effects Effects 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 3
- 230000000052 comparative effect Effects 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开一种基于多模态信息学习的专家推荐方法,爬取网络专家信息数据和项目信息数据,并整理现有专家库中的专家信息数据;构建专家评审异构图和专家属性异构图;bert模型对专家的文本信息进行学习,图神经网络对专家的属性异构图进行学习,搭建自注意力推荐模型对专家历史评审序列进行学习,将学习到的嵌入输入融合层得到专家信息嵌入,得到预训练模型;用预训练模型提取专家信息嵌入,对项目信息编码获得项目信息嵌入,将获得的专家属性表示与项目信息表示输入多层感知机对模型训练,得到专家与项目的推荐分数。本发明将丰富的语义和属性信息充分融入到专家的嵌入和模型参数中,提升专家推荐的准确率。
Description
技术领域
本发明属于数据处理技术领域,特别是涉及一种基于多模态信息学习的专家推荐方法。
背景技术
随着科技的发展等方面大力推进理论创新,各类创新性的项目申请量大幅度增加,进而导致科技项目申请不断增多。其中,在科研项目立项、结项等阶段,存在一个关键步骤——评审专家推荐。评审专家推荐即根据科研项目文档,推荐相关领域的专家进行项目评审,以评估项目的实际意义、可行性及完成质量。这就要求审核专家掌握的技术、擅长的领域与申请书内容相匹配,才能得到较为准确的评审结果。因此,如何准确地检索遴选并推荐出与项目相匹配的评审专家,如何“选好专家、用好专家”变得十分重要和关键。
在科研项目申报过程中,当前多采用人工方式进行评审专家遴选,由于人工对领域知识的理解有限,且具有一定的主观性倾向,项目申报数量的增加,专家库信息量庞大,传统的关键词检索与推荐技术存在机械匹配字词、检索与推荐的查全率和查准率偏低的问题,从而造成许多专家所分配到的项目与自己的研究方向毫不相关的问题;同时,仅凭项目管理人员的主观意识判断推荐评审专家是否符合评审标准,导致管理人员的工作量庞大,并且极易导致专家与项目不匹配的情况发生。
现有的专家推荐***,如基于项目研究内容和评审专家研究方向的算法,其通过提取关键词计算文本特征向量的相似度,从而忽略了相关其他信息。然而实际中科研项目与评审专家的选择往往涉及到其他因素,如专家的个人属性等。同时,当新的专家出现时,往往存在专家信息不全的问题,模型无法学习到专家的有效表示,需要评审的项目出现时很难对该专家进行推荐,导致推荐准确率低的问题。
发明内容
为了解决上述问题,本发明提出了一种基于多模态信息学习的专家推荐方法,利用爬取的专家数据、项目数据及现有专家库数据,通过多任务学习执行各种自我监督的预训练任务,将丰富的语义和属性信息充分融入到专家的嵌入和模型参数中,提升专家推荐的准确率。
为达到上述目的,本发明采用的技术方案是:一种基于多模态信息学习的专家推荐方法,包括步骤:
S10,爬取网络专家信息数据和项目信息数据,对数据进行预处理,并整理现有专家库中的专家信息数据;
S20,根据专家担任评委信息构建专家历史评审项目序列,根据专家属性构建专家属性异构图;
S30,用bert模型对专家的文本信息进行学习,用图神经网络模型对专家的属性异构图进行学习,搭建自注意力推荐模型对专家历史评审项目序列进行学习,将得到的嵌入输入融合层得到专家信息嵌入,得到预训练模型;
S40,用预训练模型提取专家信息嵌入,同时对项目信息编码通过embedding层获得项目信息嵌入,将获得的专家属性表示与项目信息表示合并输入多层感知机对模型训练,学习得到专家对评审项目的匹配度得分。
进一步的是,在所述步骤S10中,包括:
爬取网络专家信息数据,包括专家文本信息;爬取网络中的项目信息数据;对爬取的数据进行预处理;
整理现有专家库中的数据,包括专家的姓名、职位、研究领域、工作单位属性信息和评审活动信息。
进一步的是,在所述步骤S20中,包括:
以时间顺序对专家参与评审项目构建历史评审项目序列;
以专家姓名、职位、研究领域和工作单位为节点,以节点间相关关系为边构建专家属性异构图。
进一步的是,在所述步骤S30中,包括:
将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行预训练,获得专家文本嵌入;
在专家属性异构图上,执行对比预训练任务,预训练用于学习专家属性的图神经网络,获得专家属性嵌入;
将专家历史评审序列输入搭建的自注意力推荐模型,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入;
将提取不同嵌入进行融合获得专家信息嵌入。
进一步的是,将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行训练,获得专家文本嵌入,包括步骤:
S311,通过嵌入矩阵将文本信息中的字转化为词嵌入,为每个字添加相应的段嵌入和位置嵌入,作为bert模型的输入;
S312,在遮蔽语言预测任务中,选择与专家研究领域相关的词进行屏蔽和重构;
S313,遮蔽语言预测任务损失被定义为交叉熵损失。
进一步的是,在专家属性异构图上进行对比预训练任务,训练用于学习专家属性的图神经网络,获得专家属性嵌入,包括步骤:
S321,执行关系级预训练任务,对于给定的正例三元组,为其构造不一致关系和不相关节点的负样例队列进行对比学习任务;
S322,执行子图级预训练任务,在异构图上生成元图实例来构建正样本,同时生成排队的负样本,并通过对比学习区分正负样本;
进一步的是,将专家历史评审序列输入搭建自注意力推荐模型,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入,包括步骤:
S331,自注意力推荐模型,他包括随机嵌入、Wasserstein自注意力层和BPR loss中的正则化项;
S332,在随机嵌入层,通过将项目表示为多维椭圆高斯分布。椭圆高斯分布由均值向量和协方差向量控制。对于所有项目,定义一个均值嵌入表Mμ∈R|v|*d和协方差嵌入表M∑∈R|v|*d。同时分别为均值嵌入和协方差嵌入引入单独的位置嵌入Pμ∈R|v|*d和P∑∈R|v|*d由此,得到序列的包括均值(用于基本兴趣)嵌入和协方差(用于兴趣的可变性)嵌入嵌入:
同时,引入Wasserstein距离作为注意力权重来衡量序列中项目之间的成对关系,并采用高斯分布的线性组合特性来聚合历史项目并获得序列表示;
S334,将序列表示输入到前馈神经网络中,应用两个带有ELU激活的逐点全连接层来在学习随机嵌入中引入非线性,并采用了残差连接、层归一化和dropout层,层输出为物品的均值嵌入和协方差嵌入;
S335,执行下一个项目预测任务,预测分数为物品间的Wasserstein距离,并使用正则化项提升正负样本间的距离,损失被定义为BRP损失,对自注意力推荐模型预训练。
进一步的是,将提取不同嵌入进行融合获得专家信息属性,包括:
将预训练模型提取的专家文本嵌入、专家评审嵌入和专家属性嵌入输入融合层,获得专家信息嵌入:
U'=LN(aWa+wWw+ZμWμ+ZΣWΣ),
U=LN(U'+FFN(U'));
其中,a代表专家属性嵌入,w代表专家文本嵌入,Zμ代表专家评审序列的均值嵌入,ZΣ代表专家评审序列的协方差嵌入;Wa,Ww,Wμ,W∑为可训练矩阵,U为专家的信息嵌入。
进一步的是,在所述步骤S40中,包括步骤:
S41,用预训练模型提取新专家信息嵌入;
S42,对项目信息进行编码,经过映射后获得项目的信息嵌入;
S43,根据提取的新专家信息嵌入嵌入与项目的嵌入进行融合,输入多层感知机,根据历史的专家评审信息对多层感知机进行训练;
最后,得到专家与项目的推荐分数对专家进行推荐。
采用本技术方案的有益效果:
本发明爬取网络专家信息数据,项目信息,对数据进行预处理,并整理现有专家库中的专家信息数据。将收集到专家的文本信息如论文等输入bert模型进行学习,将收集到属性特征构建属性异构图,用图神经网络模型学习其属性特征,将专家的评审信息建模为历史评审序列,并搭建自注意力推荐模型学习其评审特征,将不同的特征进行融合,获得专家的信息特征,并对模型进行与训练。在推荐任务中,将预训练好的模型及参数应用于专家信息嵌入嵌入的提取并进行微调,并用提取的专家信息嵌入嵌入及项目信息嵌入训练多层感知机,学习专家与项目的推荐分数。本发明通过多任务学习执行各种自我监督的预训练任务,将丰富的语义、属性信息和评审信息充分融入到专家的嵌入和模型参数中,提升专家推荐的准确率。
本发明为处理专家的历史评审序列信息,搭建自注意力推荐模型。他包括随机嵌入、Wasserstein自注意力层和BPR loss中的正则化项。将项目建模为具有随机嵌入的高斯分布,包括均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入。在随机嵌入之上,使用距离来测量项目转换,这源于度量学习。提出了一个新颖的Wasserstein自注意力层,它将注意力测量为项目之间的缩放Wasserstein距离。还在预训练过程中中引入了一个新的正则化术语,以考虑正样本和负样本项目之间的距离以考虑SR中的协作传递性的工作引入随机嵌入来测量用户行为中固有的基本兴趣和兴趣的可变性,并通过额外的正则化来限制正样本和负样本项目之间的距离,提升了推荐效果。
本发明提出的专家推荐方法,专注与学习专家的嵌入。为了有效利用专家的各种结构和非结构信息,挖掘潜在的专家信息,将专家属性和专家评审信息建模为专家属性图和专家历史评审序列,将专家的文本信息输入bert模型,提取专家的文本表征,将专家的属性图输入图神经网络模型提取专家的属性表征,将专家历史评审序列输入搭建的自注意力推荐模型学习专家评审表征,将学习到的表征进行融合,得到专家的信息表示,从而的将专家的各种信息融入到了专家的信息表征中,从而获得了更多的知识,因此推荐效果得以提升。
本发明为了学习专家的文本信息,属性信息,评审信息,采用了预训练模型对专家的特征进行学习。该模型结合了bert模型、图神经网络模型和自注意力推荐模型。将专家的文本信息输入到bert模型,将专家的属性图输入到图神经网络模型,将专家的历史评审序列输入到自注意力推荐模型,通过执行多任务学习执行各种自我监督的预训练任务,将丰富的语义和属性信息充分融入到专家的嵌入和模型参数中,用训练好的模型提取专家信息嵌入并融合,得到专家的信息特征,提升推荐效果。
附图说明
图1为本发明的一种基于多模态信息学习的专家推荐方法流程示意图;
图2为本发明实施例中一种基于多模态信息学习的专家推荐方法的原理框架示意图;
图3为本发明实施例中搭建的自注意力推荐模型示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图对本发明作进一步阐述。
在本实施例中,参见图1和图2所示,本发明提出了一种基于多模态信息学习的专家推荐方法,包括步骤:
S10,爬取网络专家信息数据和项目信息数据,对数据进行预处理,并整理现有专家库中的专家信息数据;
S20,根据专家担任评委信息构建专家历史评审项目序列,根据专家属性构建专家属性异构图;
S30,用bert模型对专家的文本信息进行学习,用图神经网络模型对专家的属性异构图进行学习,搭建自注意力推荐模型对专家历史评审项目序列进行学习,将得到的嵌入输入融合层得到专家信息嵌入,得到预训练模型;
S40,用预训练模型提取专家信息嵌入,同时对项目信息编码通过embedding层获得项目信息嵌入,将获得的专家属性表示与项目信息表示合并输入多层感知机对模型训练,学习得到专家对评审项目的匹配度得分。
作为上述实施例的优化方案:
专家信息数据包括专家的文章等文本信息,项目信息数据包括项目的文档等描述信息,专家库中包括专家属性信息和历史评审信息。在实际运用中,由于存在数据稀疏的问题,无法很好的得到专家嵌入,所以对专家属性信息、评审信息搭建异构图,采用预训练的方式,对专家信息进行学习,更好的提取专家信息嵌入,将学到的知识用于现有推荐***。
通过爬取网络专家信息数据,包括专家文本信息;爬取网络中的项目信息数据;对爬取的数据进行预处理;
同时,整理现有专家库中的数据,包括专家的姓名、职位、研究领域、工作单位属性信息和评审活动信息。
作为上述实施例的优化方案:所述构建专家属性异构图和专家历史评审序列,包括:
以时间顺序对专家参与评审项目构建历史评审项目序列;
以专家姓名、职位、研究领域和工作单位为节点,以节点间相关关系为边构建专家属性异构图。
作为上述实施例的优化方案,用bert模型和图神经网络模型对专家的各种信息进行学习,包括:
将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行训练,获得专家文本嵌入;
在专家属性异构图上,在专家属性异构图上进行对比预训练任务,训练用于学习专家评审项目的图神经网络,获得专家评审嵌入;
将专家历史评审序列输入搭建的自注意力推荐模型,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入;
将提取不同嵌入进行融合获得专家信息属性。
其中,将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行训练,获得专家文本嵌入,包括步骤:
S311,通过嵌入矩阵将文本信息中的字转化为词嵌入,为每个字添加相应的段嵌入和位置嵌入,作为bert模型的输入;
S312,在遮蔽语言预测任务中,选择与专家研究领域相关的词进行屏蔽和重构;
S313,遮蔽语言预测任务损失被定义为交叉熵损失:
其中,在专家属性异构图上进行对比预训练任务,训练用于学习专家属性的图神经网络,获得专家属性嵌入,包括步骤:
S321,执行关系级预训练任务,对于图中给定的正例三元组<u,R,v>∈Prel,为其构造不一致关系负样例<u,R-,w>构成的队列和不相关节点<u,*,v->的负样例队列进行对比学习任务。
S322,执行子图级预训练任务,对于给定的一个元图M∈M和源节点u,构建一个元图实例m∈I(M)作为节点u的符合元图M的集合,其中I(M)表示为元图M所有实例的集合。训练过程中先基于之前的正样本,本文通过添加最近的阳性样本并移除最早队列尾端来生成负样本,进行对比训练任务。
其中,将专家历史评审序列输入搭建的自注意力推荐模型如图3所示,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入,包括步骤:
S331,自注意力推荐模型,他包括随机嵌入、Wasserstein自注意力层和BPR loss中的正则化项;
S332,在随机嵌入层,通过将项目表示为多维椭圆高斯分布;椭圆高斯分布由均值向量和协方差向量控制;对于所有项目,定义一个均值嵌入表Mμ∈R|v|*d和协方差嵌入表M∑∈R|v|*d;同时分别为均值嵌入和协方差嵌入引入单独的位置嵌入Pμ∈R|v|*d和P∑∈R|v|*d;由此,得到包括均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入:
引入Wasserstein距离作为注意力权重来衡量序列中项目之间的成对关系,并且采用高斯分布的线性组合特性来聚合历史项目并获得序列表示。
物品Sk与St间权重A定义为负的2-Wasserstein距离W2,测量为:
每个项目都表示为具有均值和协方差的随机嵌入,采用高斯分布的线性组合特性对项目聚合,如下:
S334,在前馈神经网络中,应用两个带有ELU激活的逐点全连接层来在学习随机嵌入中引入非线性。并采用了残差连接、层归一化和dropout层,层输出为项目的均值嵌入和协方差嵌入;
其中[x]+=max(x,0)是标准铰链损失,j+为真实的下一个项目,j-为随机选取负样本。
作为上述实施例的优化方案,将提取不同嵌入进行融合获得专家信息属性,包括:
将预训练模型提取的专家文本嵌入、获得专家均值(用于基本兴趣)和协方差(用于兴趣的可变性)嵌入,和专家属性嵌入输入融合层,获得专家信息嵌入:
U'=LN(aWa+wWw+ZμWμ+ZΣWΣ),
U=LN(U'+FFN(U'));
其中,a代表专家属性嵌入,w代表专家文本嵌入,Zμ代表专家评审序列的均值嵌入,ZΣ代表专家评审的序列的协方差嵌入;Wa,Ww,Wμ,W∑为可训练矩阵,U为专家的信息嵌入;
根据专家信息嵌入嵌入,对专家评分进行预测,学习专家的信息嵌入更好的表示,预测分数为r'=WU+b,W、b为可训练参数,损失函数定义为:
作为上述实施例的优化方案,用预训练模型提取专家信息嵌入,同时对项目信息编码获得项目信息嵌入,将获得的专家属性表示与项目信息表示输入多层感知机(MLP)对模型训练,得到专家与项目的推荐分数,包括步骤:
S41,用预训练模型提取新专家信息嵌入;
S42,对项目信息进行编码,经过映射后获得项目的信息嵌入;
S43,根据提取的新专家信息嵌入嵌入与项目的嵌入进行融合,输入多层感知机,根据历史的专家评审信息对多层感知机进行训练,损失函数为:
最后,得到专家与项目的推荐分数对专家进行推荐。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (8)
1.一种基于多模态信息学习的专家推荐方法,其特征在于,包括步骤:
S10,爬取网络专家信息数据和项目信息数据,对数据进行预处理,并整理现有专家库中的专家信息数据;
S20,根据专家属性构建专家属性异构图,根据专家担任评委信息构建专家历史评审项目序列;
S30,用bert模型对专家的文本信息进行学习,用图神经网络模型对专家的属性异构图进行学习,搭建自注意力推荐模型对专家历史评审项目序列进行学习,将得到的嵌入输入融合层得到专家信息嵌入,得到预训练模型;
S40,用预训练模型提取专家信息嵌入,同时对项目信息编码通过embedding层获得项目信息嵌入,将获得的专家属性表示与项目信息表示合并输入多层感知机对模型训练,学习得到专家对评审项目的匹配度得分。
2.根据权利要求1所述的一种基于多模态信息学习的专家推荐方法,其特征在于,在所述步骤S10中,包括:
爬取网络专家信息数据,包括专家文本信息;爬取网络中的项目信息数据;对爬取的数据进行预处理;
整理现有专家库中的数据,包括专家的姓名、职位、研究领域、工作单位属性信息和评审活动信息。
3.根据权利要求2所述的一种基于多模态信息学习的专家推荐方法,其特征在于,在所述步骤S20中,包括:
以时间顺序对专家参与评审项目构建历史评审项目序列;
以专家姓名、职位、研究领域和工作单位为节点,以节点间相关关系为边构建专家属性异构图。
4.根据权利要求3所述的一种基于多模态信息学习的专家推荐方法,其特征在于,在所述步骤S30中,包括:
将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行预训练,获得专家文本嵌入;
在专家属性异构图上,执行对比预训练任务,预训练用于学习专家属性的图神经网络,获得专家属性嵌入;
将专家历史评审序列输入搭建的自注意力推荐模型,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值和协方差嵌入;
将提取不同嵌入进行融合获得专家信息属性。
5.根据权利要求4所述的一种基于多模态信息学习的评审专家推荐方法,其特征在于,将专家文本信息包括文章和个人简介输入bert模型,通过执行遮蔽语言预测任务,对bert模型进行训练,获得专家文本嵌入,包括步骤:
S311,通过嵌入矩阵将文本信息中的字转化为词嵌入,为每个字添加相应的段嵌入和位置嵌入,作为bert模型的输入;
S312,在遮蔽语言预测任务中,选择与专家研究领域相关的词进行屏蔽和重构;
S313,遮蔽语言预测任务损失被定义为交叉熵损失。
6.根据权利要求4所述的一种基于多模态信息学习的评审专家推荐方法,其特征在于,在专家属性异构图上进行对比预训练任务,训练用于学习专家属性的图神经网络,获得专家属性嵌入,包括步骤:
S321,执行关系级预训练任务,对于异构图中给定的正例三元组,为其构造不一致关系和不相关节点的负样例队列进行对比学习任务;
S322,执行子图级预训练任务,在异构图上生成元图实例来构建正样本,同时生成排队的负样本,并通过对比学习区分正负样本。
根据权利要求4所述的一种基于多模态信息学习的评审专家推荐方法,其特征在于,将专家历史评审序列输入搭建的自注意力推荐模型,执行下一个项目预测任务,对专家历史评审项目序列进行学习,获得专家均值)和协方差嵌入,包括步骤:
S331,自注意力推荐模型,包括随机嵌入层、Wasserstein自注意力层和BPRloss中的正则化项;
S332,在随机嵌入层,通过将项目表示为多维椭圆高斯分布;椭圆高斯分布由均值向量和协方差向量控制;对于所有项目,定义一个均值嵌入表Mμ∈R|v|*d和协方差嵌入表M∑∈R|v|*d;同时分别为均值嵌入和协方差嵌入引入单独的位置嵌入Pμ∈R|v|*d和P∑∈R|v|*d;由此,得到序列的包括均值嵌入和协方差嵌入
同时,引入Wasserstein距离作为注意力权重来衡量序列中项目之间的成对关系,并采用高斯分布的线性组合特性来聚合历史项目并获得序列表示;
S334,将序列表示输入到前馈神经网络中,应用两个带有ELU激活的逐点全连接层来在学习随机嵌入中引入非线性,并采用了残差连接、层归一化和dropout层,层输出为每个项目的均值嵌入和协方差嵌入;
S335,执行下一个项目预测任务,预测分数为物品间的Wasserstein距离,并使用正则化项提升正负样本间的距离,损失被定义为BRP损失,对自注意力推荐模型预训练。
7.根据权利要求4所述的一种基于多模态信息学习的评审专家推荐方法,其特征在于,将提取不同嵌入进行融合获得专家信息属性,包括:
将预训练模型提取的专家文本嵌入、专家的的均值和协方差序列嵌入和专家属性嵌入输入融合层,获得专家信息嵌入:
U'=LN(aWa+wWw+ZμWμ+ZΣWΣ),
U=LN(U'+FFN(U'));
其中,a代表专家属性嵌入,w代表专家文本嵌入,Zμ代表专家评审序列的均值嵌入,ZΣ代表专家评审序列的协方差嵌入;Wa,Ww,Wμ,W∑为可训练矩阵,U为专家信息嵌入;
根据专家信息嵌入嵌入,对专家评分进行预测,学习专家的信息嵌入更好的表示,预测分数为r'=WU+b,W、b为可训练参数。
8.根据权利要求1所述的一种基于多模态信息学习的专家推荐方法,其特征在于,在所述步骤S40中,包括步骤:
S41,用预训练模型提取新专家信息嵌入;
S42,对项目信息进行编码,经过映射后获得项目的信息嵌入;
S43,根据提取的新专家信息嵌入嵌入与项目的嵌入进行融合,输入多层感知机,根据历史的专家评审信息对多层感知机进行训练;
最后,得到专家与项目的推荐分数对专家进行推荐。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210155520.4A CN114662652A (zh) | 2022-02-21 | 2022-02-21 | 一种基于多模态信息学习的专家推荐方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210155520.4A CN114662652A (zh) | 2022-02-21 | 2022-02-21 | 一种基于多模态信息学习的专家推荐方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114662652A true CN114662652A (zh) | 2022-06-24 |
Family
ID=82027241
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210155520.4A Pending CN114662652A (zh) | 2022-02-21 | 2022-02-21 | 一种基于多模态信息学习的专家推荐方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114662652A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115599984A (zh) * | 2022-09-09 | 2023-01-13 | 北京理工大学(Cn) | 一种检索方法 |
CN117763238A (zh) * | 2024-01-09 | 2024-03-26 | 南京理工大学 | 基于多图神经网络的学位论文评审专家推荐方法 |
-
2022
- 2022-02-21 CN CN202210155520.4A patent/CN114662652A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115599984A (zh) * | 2022-09-09 | 2023-01-13 | 北京理工大学(Cn) | 一种检索方法 |
CN115599984B (zh) * | 2022-09-09 | 2023-06-09 | 北京理工大学 | 一种检索方法 |
CN117763238A (zh) * | 2024-01-09 | 2024-03-26 | 南京理工大学 | 基于多图神经网络的学位论文评审专家推荐方法 |
CN117763238B (zh) * | 2024-01-09 | 2024-05-24 | 南京理工大学 | 基于多图神经网络的学位论文评审专家推荐方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112417306B (zh) | 基于知识图谱的推荐算法性能优化的方法 | |
CN108647226B (zh) | 一种基于变分自动编码器的混合推荐方法 | |
CN107688870B (zh) | 一种基于文本流输入的深度神经网络的分层因素可视化分析方法及装置 | |
CN110309195B (zh) | 一种基于fwdl模型的内容推荐方法 | |
CN112579778A (zh) | 基于多层次的特征注意力的方面级情感分类方法 | |
CN114693397B (zh) | 一种基于注意力神经网络的多视角多模态商品推荐方法 | |
CN114662652A (zh) | 一种基于多模态信息学习的专家推荐方法 | |
CN112100401B (zh) | 面向科技服务的知识图谱构建方法、装置、设备及存储介质 | |
CN112989761B (zh) | 文本分类方法及装置 | |
CN113343125B (zh) | 一种面向学术精准推荐的异质科研信息集成方法及*** | |
CN114238577B (zh) | 融合多头注意力机制的多任务学习情感分类方法 | |
CN114119058A (zh) | 用户画像模型的构建方法、设备及存储介质 | |
CN112926325A (zh) | 基于bert神经网络的中文人物关系抽取构建方法 | |
CN114648031A (zh) | 基于双向lstm和多头注意力机制的文本方面级情感识别方法 | |
Castellano et al. | Integrating contextual knowledge to visual features for fine art classification | |
CN116976505A (zh) | 基于信息共享的解耦注意网络的点击率预测方法 | |
CN115221387A (zh) | 一种基于深度神经网络的企业信息整合方法 | |
CN116127175A (zh) | 一种基于多模态特征融合的移动应用分类与推荐方法 | |
CN115203529A (zh) | 一种基于多头自注意力机制的深度神经网络推荐模型及方法 | |
CN112862569B (zh) | 基于图像和文本多模态数据的产品外观风格评价方法和*** | |
Sarang | Thinking Data Science: A Data Science Practitioner’s Guide | |
CN112100395B (zh) | 一种专家合作可行性分析方法 | |
CN112256895B (zh) | 一种基于多任务学习的织物图像检索方法 | |
CN113535928A (zh) | 基于注意力机制下长短期记忆网络的服务发现方法及*** | |
CN116342167B (zh) | 基于序列标注命名实体识别的智能成本度量方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |