CN106777359B - 一种基于受限玻尔兹曼机的文本业务推荐方法 - Google Patents

一种基于受限玻尔兹曼机的文本业务推荐方法 Download PDF

Info

Publication number
CN106777359B
CN106777359B CN201710040092.XA CN201710040092A CN106777359B CN 106777359 B CN106777359 B CN 106777359B CN 201710040092 A CN201710040092 A CN 201710040092A CN 106777359 B CN106777359 B CN 106777359B
Authority
CN
China
Prior art keywords
user
descriptor
theme
weight
business
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710040092.XA
Other languages
English (en)
Other versions
CN106777359A (zh
Inventor
吴国栋
史明哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Agricultural University AHAU
Original Assignee
Anhui Agricultural University AHAU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Agricultural University AHAU filed Critical Anhui Agricultural University AHAU
Priority to CN201710040092.XA priority Critical patent/CN106777359B/zh
Publication of CN106777359A publication Critical patent/CN106777359A/zh
Application granted granted Critical
Publication of CN106777359B publication Critical patent/CN106777359B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3332Query translation
    • G06F16/3334Selection or weighting of terms from queries, including natural language queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3346Query execution using probabilistic model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9535Search customisation based on user profiles and personalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于受限玻尔兹曼机的文本业务推荐方法,是通过输入业务需求描述,自动获取其相似信息,利用LDA主题模型提取主题,并结合RBM未知偏好主题预测模型得到用户的偏好主题,通过计算用户偏好主题和相应待推荐业务的主题相似度,进而为用户推荐,省去用户花费大量的时间去寻找需求业务及对各个业务进行决策分析的工作量。本发明能帮助用户过滤掉无效业务信息及对未知潜在偏好主题进行预测,从而能提供优质个性化的潜在业务信息。

Description

一种基于受限玻尔兹曼机的文本业务推荐方法
技术领域
本发明涉及内容推荐,特别涉及一种基于受限玻尔兹曼机的文本业务推荐方法。
背景技术
在推荐***的研究中,获取用户偏好的方式主要有两种方式,一种是评分,另一种是物品特征或特性的专业描述。协同过滤技术是利用评分数据获取用户偏好的重要技术,除了评分,不需要知道关于要推荐物品的任何信息。它的主要好处是避免了付出很大代价向***提供详细且实时更新的物品描述信息,但是,如果想根据物品的特性和用户的特殊偏好非常直观地选择可推荐物品,用纯粹的协同过滤方法是不可能实现的。基于内容的推荐是推荐***根据物品的特征信息,找出物品间的相似关系,然后向用户推荐与他们喜欢的物品相似的其他物品。推荐结果的好坏依赖于物品特征的选取,若是物品特征选取的合适,就会获得较理想推荐结果,反之,推荐结果可能会不如人意。所以,物品的特征的选取十分重要,与推荐***的性能紧密相关。在实际环境中,物品特征或特性的专业描述更多的是有特定格式的。在品质方面,某人喜欢某个物品并不总是和物品的某个特征相关,可能只是对这个物品外观设计的某种主观印象感兴趣。
因此,在研究如何根据用户描述的业务信息,进行业务推荐时,将会涉及到如下问题:
(1)每一个业务描述信息都是用户的主观想法,没有一个统一的特征标准,对于同一业务可能有不同的描述方式,造成“一词多义”或“多词一义”这就为推荐带来极大的挑战;
(2)业务推荐不同于物品的推荐,业务具有时效性,及时性。对于过时的无效业务信息,则不能推荐给用户;
(3)针对传统的业务处理网站,比如招聘网站、猪八戒服务交易平台等业务种类比较复杂,信息比较混乱,且针对不同的用户呈现给用户的信息相同,造成推荐结果不准确,无法实现用户的个性化需求;
(4)用户的兴趣是动态变化的,仅仅根据用户的历史信息进行推荐,很难提高用户对推荐结果的惊喜度;甚至造成重复推荐用户以前喜欢的物品,但现在用户不喜欢的物品。
发明内容
本发明是为了解决上述现有技术存在的不足之处,提出一种基于受限玻尔兹曼机的文本业务推荐方法,以期能帮助用户过滤掉无效业务信息及对未知潜在偏好主题进行预测,从而能提供优质个性化的潜在业务信息。
为实现上述发明目的,本发明采用如下技术方案:
本发明一种基于受限玻尔兹曼机的文本业务推荐方法的特点是应用于由数据库、服务器和客户端所构成的一个推荐环境中,所述推荐方法是按如下步骤进行:
步骤1、利用客户端获取用户A的需求信息,并根据所述需求信息从所述数据库中匹配相应的相似信息;
步骤2、利用分词工具对所述用户A的需求信息和相似信息进行分词,得到所述用户A的需求文档D0
步骤3、利用LDA主题模型对所述需求文档D0进行主题提取,得到所述用户A的n个主题,记为DA={T1 A,T2 A,...,Ti A,...,Tn A},Ti A表示所述用户A的第i个主题;并有 表示所述用户A的第i个主题的第j个主题词,表示所述用户A的第i个主题的第j个主题词的权重;1≤i≤n;1≤j≤m;
步骤4、对所述用户A的第i个主题的m个主题词分别设置相应的权值,记为 表示所述用户A的第i个主题的第j个主题词的权值;
步骤5、计算主题词集合C出现的次数:
步骤5.1、对所述用户A的n个主题DA={T1 A,T2 A,...,Ti A,...,Tn A}中所有主题词取并集,得到所述用户A的主题词集合C={c1,c2,...,ck,...,cK},ck表示所述用户A的第k个主题词,1≤k≤K;
步骤5.2、利用所述用户A的主题词集合C={c1,c2,...,ck,...,cK}与所述用户A的第i个主题计算主题词集合C中第k个主题词ck在主题Ti A中主题词出现的次数rk;从而得到所述用户A的主题词集合C中每一主题词在所有主题的主题词出现的次数R={r1,r2,...,rk,...,rK};
步骤6、定义更新变次数为s,并初始化s=0;利用式(1)获得第s次更新的第k个主题词ck的加权平均权重从而获得第s次更新的K个主题词的初始加权平均权重
式(1)表示在所述用户A的主题词集合C中与第k个主题词ck相同的所有主题词的权重和权值的乘积之和,式(1)中,表示与第k个主题词ck相同的第i个主题的第j个主题词的权重,表示与第k个主题词ck相同的第i个主题的第j个主题词的权值;
步骤7、构建所述用户A的RBM主题偏好模型;
步骤7.1、所述RBM主题偏好模型的第一层为可见层、第二层为隐藏层;所述可见层包含K个可见单元,并将所述第s次更新的K个主题词的加权平均权重作为所述K个可见单元的输入值;所述隐藏层包含L个隐层单元,记为h={h1,h2,...,hl,...,hL},hl表示第l个隐层单元,1≤l≤L;
步骤7.2、随机初始化第s次更新的可见层和隐藏层之间的权重,记为Ws;其中,记第s次更新的可见层中第k个可见单元与第l个隐层单元之间的权重为1≤k≤K;
步骤7.3、利用式(2)得到所述用户A的主题偏好模型的第s次更新的第l个隐层单元hl的值从而得到所有隐层单元的值
步骤7.4、利用式(3)得到所述用户A的主题偏好模型的第s+1次更新的第k个可见单元的值从而得到题偏好模型的第s+1次更新的所有可见单元的值
式(3)中,表示调节参数;
步骤7.5、利用式(4)更新第s次更新的第k个可见单元和第l个隐层单元之间的权重得到第s+1次更新的第k个可见层和第l个隐藏层之间的权重为从而得到所有可见层与隐层之间的权重Ws+1
式(4)中,η表示学习速率;
步骤7.6、将s+1赋值给s,并返回步骤7.3顺序执行,直到所有可见层与隐层之间的权重收敛为止;
步骤8、从所述数据库中获取所述用户A的近邻用户,记为U={u1,u2,...,uz,...,uZ},uz表示所述用户A的第z个近邻用户,1≤z≤Z;
步骤9、建立所述用户A的近邻用户U的RBM主题偏好模型及预测所有未知主题词的加权平均权重:
步骤9.1、按照步骤1获取所述用户A的第z个近邻用户uz的需求信息和相似信息,并分别按照步骤2与步骤3得到第z个近邻用户uz的需求文档Dz及nz个主题;
步骤9.2、对所述第z个近邻用户uz的nz个主题中所有主题词分别设置相应的权值,从而利用式(1)获得第z个近邻用户uz的nz个主题的所有主题词的初始加权平均权重;
步骤9.3、按照步骤7构建所述用户A的第z个近邻用户uz的RBM主题偏好模型;从而得到所述用户A的所有近邻用户的RBM主题偏好模型;
步骤9.4、将所述用户A的所有邻居用户的相应主题词做并集后再与所述用户A的所有主题词做差集,得到待预测主题词集合,记为G={g1,g2,...,ge,...,gE};ge表示第e个待预测主题词;1≤e≤E;
步骤9.5、利用式(5)得到第e个待预测主题词ge所在的RBM主题偏好模型的可视层中,与第e个待预测主题词ge相对应的可视单元与第l个隐层单元的平均权重
式(6)中,表示在所述近邻用户U中包含第e个待预测主题词ge的所有近邻用户的第e个待预测主题词ge相对应的可视单元与第l个隐层单元的权重之和;表示所述近邻用户U中包含第e个待预测主题词ge的所有近邻用户的数量;
步骤9.6、利用式(6)预测得到所述用户A的第e个待预测主题词ge的加权平均权重从而得到所述用户A的所有待预测主题词的加权平均权重:
式(7)中,ξ为另一个调节参数;表示收敛时第l个隐层单元hl的值
步骤10、构建所述用户A的RBM未知偏好主题预测模型;
步骤10.1、去除所述用户A的所有待预测主题词的加权平均权重中若干个较小值,得到所述用户A的未知偏好主题词,记为G'={g1',g2',...,gf',...,gF'};1≤F≤E;
步骤10.2、对所述用户A的第z个近邻用户uz的第α个主题的主题词与所述未知偏好主题词G'取交集,得到的集合记为集合的大小,记为1≤α≤nz;从而得到第z个近邻用户uz的所有主题的主题词与所述主题词G'的交集的大小,记为集合进而得到所有近邻用户U={u1,u2,...,uz,...,uZ}的所有主题的主题词与所述主题词G'的交集的大小
步骤10.3、对第z个近邻用户uz的集合中所有元素进行求和,得到的值记为从而对所有近邻用户HU中所有元素进行求和,得到的值的集合,记为
步骤10.4、对H中的值进行降序排序,将前M个最大的值所对应的M个近邻用户的主题,作为所述用户A的预测主题的范围;
步骤10.5、对所述M个近邻用户中的任意一个近邻用户的任意一个主题的所有主题词,与所述主题词G'作交集,得到交集集合中的主题词个数;从而得到所述M个近邻用户中的任意一个近邻用户的所有主题的主题词与所述主题词G'作交集后的主题词个数;进而得到M个近邻用户所有主题的主题词与所述主题词G'作交集后的主题词个数;
步骤10.6、对M个近邻用户所有主题的主题词与所述主题词G'作交集后的主题词个数进行降序排序,将前N个最大的值所对应的主题,作为所述用户A的预测偏好主题;
步骤11、更新所述用户A的预测偏好主题的主题词的权重;
步骤11.1、判断所述用户A的任一预测偏好主题的主题词是否出现在主题词G'中,若是,则执行步骤11.2,否则表示出现在主题词C中,并执行步骤11.3;
步骤11.2、利用式(1)计算所述用户A的任一预测偏好主题的主题词在所述主题词G'的权重,其中,rk取值为任一预测偏好主题所在近邻用户的所有主题中与所述用户A的第k个主题词ck相同的主题词出现的次数,取值为第k个主题词ck在任一预测偏好主题所在近邻用户的所有主题中的平均权值;
步骤11.3、利用式(1)计算所述用户A的任一预测偏好主题的主题词在所述主题词C={c1,c2,...,ck,...,cK}中的权重,其中,rk取值为所述用户A的所有主题中第k个主题词ck出现的次数,取值为第k个主题词ck在所述用户A的所有主题中的平均权值;
步骤11.4、重复步骤11.1,从而计算任一预测偏好主题的所有主题词的权重;进而得到N个预测偏好主题的所有主题词的权重;
步骤12、从所述数据库中取出所有待推荐业务,记为O={O1,O2,...,Ob,...,OB},Ob表示第b个待推荐业,1≤b≤B;
步骤13、根据所述第b个待推荐业务Ob从所述数据库中匹配相应的相似信息;
步骤14、利用分词工具对所述第b个待推荐业务Ob和相似信息进行分词,得到所述第b个待推荐业务Ob的初始文档D0';
步骤15、利用LDA主题模型对所述初始文档D0'进行主题提取,得到所述第b个待推荐业务Ob的n'个主题,记为 表示所述第b个待推荐业务Ob的第i'个主题;并有 表示所述第b个待推荐业务Ob的第i'个主题的第j'个主题词,表示所述第b个待推荐业务Ob的第i'个主题的第j'个主题词的权重;1≤i'≤n';1≤j'≤m';
步骤16、按照步骤15得到所有待推荐业务O的主题
步骤17、计算所述用户A对第b个待推荐业务Ob的偏好度从而得到所述用户A对所有待推荐业务O=(O1,O2,...,Ob,...,OB)的偏好度
步骤17.1、计算所述用户A的第i个主题Ti A和第b个待推荐业务Ob的第i'个主题的余弦相似度
步骤17.2、利用式(7)计算所述用户A的第i个主题Ti A和第b个待推荐业务Ob的所有主题的平均相似度
步骤17.3、按照步骤17.2计算所述用户A的所有主题和第b个待推荐业务Ob所有主题相似度,并取相似度最高的M”个主题及其对应的平均相似度;记为 表示所述用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题;表示所述用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题的平均相似度;
步骤17.4、利用式(8)计算所述用户A对第b个待推荐业务Ob的偏好度为
步骤18、对偏好度P进行降序排序,并将前Np个偏好度所对应的业务推荐给用户A。
与已有技术相比,本发明的有益效果体现在:
1、本发明方法具有经济性、智能性和使用方便性。通过简单的输入业务描述信息,***自动获取其相应的相似信息,利用LDA主题模型对主题进行提取,并结合RBM未知偏好主题预测模型得到用户的偏好主题,通过计算用户偏好主题和相应待推荐业务的主题相似度,进而为用户推荐个性化的优质业务信息,不需要用户花费大量的时间去寻找需要的业务,同时省去了用户对找到的各个业务进行决策分析的工作量;
2、本发明针对业务描述的主观性,没有一个统一的特征标准,造成“一词多义”或“多词一义”等问题,结合LDA主题模型进行主题提取,其中,每个主题是由不同的主题词组成,根据主题词所在的主题及主题所包含的主题词,可以明确每个词所表达的含义;从而有效解决了业务描述信息的主观性,很难利用传统基于内容的方法进行推荐的问题;
3、本发明通过计算用户偏好主题和业务主题的相似度进行推荐,其中用户的偏好主题在短期时间内基本不会发生变化,对不同业务进行推荐时,而无需重复计算用户的偏好主题,可以及时针对不同业务做出推荐;从而应用更加广泛,适用性更强。
4、本发明提出的RBM未知偏好主题预测模型,可以有效对用户未知偏好主题进行预测,以发现用户未来兴趣趋势,从而帮助引导用户发现新的兴趣领域,同时弥补主题模型不能及时发现用户兴趣改变方面的不足;
5、本发明针对传统实值受限玻尔兹曼机只利用评分数据,使所有用户对同一项目的预测评分都相同,缺乏可解释性(即模型进行预测时,只要物品相同,预测得到的评分也相同,也就无法解释不同的人对同一物品有不同的偏好)。本发明对其进行了相应的改进,并把改进的模型用在用户偏好的主题预测上;其中,采用每个受限玻尔兹曼机(RBM)对应一个用户,而每个用户都有相同个数的隐层单元,通过计算近邻用户中具有相同主题的平均权重来作为待预测主题的RBM权重,可以针对不同用户的同一主题得到不同的主题词权重。从而不仅解决了业务描述信息的主观性,很难在传统基于内容的方法进行推荐的问题,而且对传统实值受限玻尔兹曼机的预测缺乏可解释性的问题,提供了解决思路,并有效的应用在对用户偏好主题预测上。
附图说明
图1为本发明文本业务推荐方法的应用环境图;
图2为本发明文本业务推荐的流程示意图;
图3为本发明RBM未知偏好主题预测模型图。
具体实施方式
本实施例中,一种基于受限玻尔兹曼机的文本业务推荐方法,是应用于由数据库、服务器和客户端所构成的一个推荐环境中。如图1所示,安装有浏览器客户端的终端设备与服务器通过网络连接,服务器连接数据库,该数据库用于存储各种数据,如本发明中的用户偏好信息,该数据库可以独立于该服务器,也可以设置在该服务器之内。终端设备可以是各种电子装置,如个人电脑、笔记本电脑、平板电脑、手机等。网络可为但不限于互联网、企业内部网、局域网、移动通信网及其组合。
如图2所示,一种基于受限玻尔兹曼机的文本业务推荐方法是按如下步骤进行:
步骤1、利用客户端获取用户A的需求信息,并根据需求信息从数据库中匹配相应的相似信息。如获取匹配的相似信息,可以根据数据库中数据的存储结构是一个树形结构,利用需求信息的父节点获取其父节点的所有子节点文档或根据需求信息直接获取其所有子节点文档,或利用计算文本相似度的算法来获取相似信息;
步骤2、利用分词工具对用户A的需求信息和相似信息进行分词,分词的开源代码有ICTCLAS,然后按照停用表中的词语将语料库中对于文本内容识别意义不大但出现频率很高的词、符号、标点及乱码等去掉。如“这,的,和,会,为”等词几乎出现在任何一个文档中,但是它们对于这个文本所表达的意思几乎没有任何贡献。经过分词后得到用户A的需求文档D0
步骤3、利用LDA主题模型对需求文档D0进行主题提取。如表1所示为经过LDA主题模型提取得到用户A的n个主题的形式,记为DA={T1 A,T2 A,...,Ti A,...,Tn A},Ti A表示用户A的第i个主题;并有 表示用户A的第i个主题的第j个主题词,表示用户A的第i个主题的第j个主题词的权重;1≤i≤n;1≤j≤m;
步骤4、如表1对用户A的第i个主题的m个主题词分别设置相应的权值,记为 表示用户A的第i个主题的第j个主题词的权值。为更加详尽的描述本发明的具体实施,把表1中的数据关系对应到如表2所示为MovieLens数据集中,利用LDA主题模型提取的主题,并在配置文件中设置提取主题数为3,每类主题取经过排序后的前5个主题词,得到的用户所喜欢的主题及相应主题对应的主题词和主题词权重。如表2对应设置相应的权值T1 A=T2 A=T3 A={5,4,3,2,1},其中,在用户偏好主题中主题词权重越大,则越能代表用户的偏好。设置权值的目的是使主题词权重较大的主题词有更大的权值,而主题词权重较小的主题词有更小的权值,从而有利用保留主题词权重较大的而去除权重较小的干扰主题词;
表1主题词及权重值(概率)
表2主题词及权重值(概率)
步骤5、计算主题词集合C出现的次数:
步骤5.1、如表1对用户A的n个主题DA={T1 A,T2 A,...,Ti A,...,Tn A}中所有主题词取并集,得到用户A的主题词集合C={c1,c2,...,ck,...,cK},ck表示用户A的第k个主题词,1≤k≤K,对应表2中用户A的3个主题DA={T1 A,T2 A,T3 A}相应的所有主题词取并集,得到用户A的主题词集合:
C={Comedy,Drama,Sci-Fi,Animation,Children's,Adventure,Action,Thriller,Horror,Romance,Western}
步骤5.2、利用用户A的主题词集合C={c1,c2,...,ck,...,cK}与用户A的第i个主题计算主题词集合C中第k个主题词ck在主题Ti A中主题词出现的次数rk;从而得到用户A的主题词集合C中每一主题词在所有主题的主题词出现的次数R={r1,r2,...,rk,...,rK}。如表2得到用户A的主题词集合C中每一主题词在所有主题中相应的主题词出现的次数R={2,1,1,1,1,2,2,1,1,2,1},其中主题词集合C中的主题和R中主题词出现的次数按顺序是一一对应的;
步骤6、定义更新变次数为s,并初始化s=0;利用式(1)获得第s次更新的第k个主题词ck的加权平均权重从而获得第s次更新的K个主题词的初始加权平均权重
式(1)表示在用户A的主题词集合C中与第k个主题词ck相同的所有主题词的权重和权值的乘积之和,式(1)中,表示与第k个主题词ck相同的第i个主题的第j个主题词的权重,表示与第k个主题词ck相同的第i个主题的第j个主题词的权值;如表2获得主题词“Comedy”的加权平均权重为:
从而获得11个主题词的初始加权平均权重:
步骤7、构建用户A的RBM主题偏好模型;
步骤7.1、如图3所示,RBM主题偏好模型的第一层为可见层、第二层为隐藏层;可见层包含K个可见单元,并将第s次更新的K个主题词的加权平均权重作为K个可见单元的输入值;隐藏层包含L个隐层单元,记为h={h1,h2,...,hl,...,hL},hl表示第l个隐层单元,1≤l≤L;
步骤7.2、随机初始化第s次更新的可见层和隐藏层之间的权重,记为Ws;其中,记第s次更新的可见层中第k个可见单元与第l个隐层单元之间的权重为1≤k≤K;
步骤7.3、利用式(2)得到用户A的主题偏好模型的第s次更新的第l个隐层单元hl的值从而得到所有隐层单元的值
步骤7.4、利用式(3)得到用户A的主题偏好模型的第s+1次更新的第k个可见单元的值从而得到题偏好模型的第s+1次更新的所有可见单元的值
式(3)中,表示调节参数;
步骤7.5、利用式(4)更新第s次更新的第k个可见单元和第l个隐层单元之间的权重得到第s+1次更新的第k个可见层和第l个隐藏层之间的权重为从而得到所有可见层与隐层之间的权重Ws+1
式(4)中,η表示学习速率,一般取η=0.01;
步骤7.6、将s+1赋值给s,并返回步骤7.3顺序执行,直到所有可见层与隐层之间的权重收敛为止;步骤7的主要目的是根据用户A的历史偏好主题,利用RBM提取出用户的抽象偏好特征即隐层单元的值,作为下一步利用RBM未知偏好主题预测模型的输入值;
步骤8、从数据库中获取用户A的近邻用户,记为U={u1,u2,...,uz,...,uZ},uz表示用户A的第z个近邻用户,1≤z≤Z;对应近邻用户的获取可以通过聚类算法,也可以通过余弦相似度计算用户的兴趣相似度等;
步骤9、建立用户A的近邻用户U的RBM主题偏好模型及预测所有未知主题词的加权平均权重:
步骤9.1、按照步骤1获取用户A的第z个近邻用户uz的需求信息和相似信息,并分别按照步骤2与步骤3得到第z个近邻用户uz的需求文档Dz及nz个主题;
步骤9.2、对第z个近邻用户uz的nz个主题中所有主题词分别设置相应的权值,从而利用式(1)获得第z个近邻用户uz的nz个主题的所有主题词的初始加权平均权重;
步骤9.3、按照步骤7构建用户A的第z个近邻用户uz的RBM主题偏好模型;从而得到用户A的所有近邻用户的RBM主题偏好模型;
步骤9.4、将用户A的所有邻居用户的相应主题词做并集后再与用户A的所有主题词做差集,得到待预测主题词集合,记为G={g1,g2,...,ge,...,gE};ge表示第e个待预测主题词;1≤e≤E;
步骤9.5、利用式(5)得到第e个待预测主题词ge所在的RBM主题偏好模型的可视层中,与第e个待预测主题词ge相对应的可视单元与第l个隐层单元的平均权重
式(6)中,表示在近邻用户U中包含第e个待预测主题词ge的所有近邻用户的第e个待预测主题词ge相对应的可视单元与第l个隐层单元的权重之和;表示近邻用户U中包含第e个待预测主题词ge的所有近邻用户的数量;
步骤9.6、利用式(6)预测得到用户A的第e个待预测主题词ge的加权平均权重从而得到用户A的所有待预测主题词的加权平均权重:
式(7)中,ξ为另一个调节参数;表示收敛时第l个隐层单元hl的值
在步骤9中,主要利用“协同思想”,通过用户A的近邻用户,则能更好的了解用户A。其中,用户A的偏好和其近邻用户的偏好更为相似,这也使在预测用户A的未知主题词中能得到更加准确的主题词及排除干扰的主题词;
步骤10、构建用户A的RBM未知偏好主题预测模型;在本步骤中,根据步骤9得到的主题词来获取用户A的未知偏好主题,步骤10与步骤9的区别是步骤9仅仅得到的是未知主题词的加权平均权重,但在真正做推荐时,需要的是具体的主题词在哪个主题中,及其相应的主题词权重;知道主题词在哪个主题中才不会造成主题词的“一词多义”和“多词一义”,通过知道主题词的权重,才能计算下一步用户偏好主题和业务主题的相似度,进而为用户A做出推荐;
步骤10.1、去除用户A的所有待预测主题词的加权平均权重中若干个较小值,得到用户A的未知偏好主题词,记为G'={g1',g2',...,gf',...,gF'};1≤F≤E;
步骤10.2、对用户A的第z个近邻用户uz的第α个主题的主题词与未知偏好主题词G'取交集,得到的集合记为集合的大小,记为1≤α≤nz;从而得到第z个近邻用户uz的所有主题的主题词与主题词G'的交集的大小,记为集合进而得到所有近邻用户U={u1,u2,...,uz,...,uZ}的所有主题的主题词与主题词G'的交集的大小
步骤10.3、对第z个近邻用户uz的集合中所有元素进行求和,得到的值记为从而对所有近邻用户HU中所有元素进行求和,得到的值的集合,记为
步骤10.4、对H中的值进行降序排序,将前M个最大的值所对应的M个近邻用户的主题,作为用户A的预测主题的范围;
步骤10.5、对M个近邻用户中的任意一个近邻用户的任意一个主题的所有主题词,与主题词G'作交集,得到交集集合中的主题词个数;从而得到M个近邻用户中的任意一个近邻用户的所有主题的主题词与主题词G'作交集后的主题词个数;进而得到M个近邻用户所有主题的主题词与主题词G'作交集后的主题词个数;
步骤10.6、对M个近邻用户所有主题的主题词与主题词G'作交集后的主题词个数进行降序排序,将前N个最大的值所对应的主题,作为用户A的预测偏好主题;
步骤11、更新用户A的预测偏好主题的主题词的权重;用户A的未知偏好主题的主题词的原始权重,反应的是用户A的近邻用户对其相应主题的偏好,而经过预测该未知偏好主题将作为用户A的主题。因此,相应的主题词权重需要做进一步的更新;
步骤11.1、判断用户A的任一预测偏好主题的主题词是否出现在主题词G'中,若是,则执行步骤11.2,否则表示出现在主题词C中,并执行步骤11.3;
步骤11.2、利用式(1)计算用户A的任一预测偏好主题的主题词在主题词G'的权重,其中,rk取值为任一预测偏好主题所在近邻用户的所有主题中与用户A的第k个主题词ck相同的主题词出现的次数,取值为第k个主题词ck在任一预测偏好主题所在近邻用户的所有主题中的平均权值;
步骤11.3、利用式(1)计算用户A的任一预测偏好主题的主题词在主题词C={c1,c2,...,ck,...,cK}中的权重,其中,rk取值为用户A的所有主题中第k个主题词ck出现的次数,取值为第k个主题词ck在用户A的所有主题中的平均权值;
步骤11.4、重复步骤11.1,从而计算任一预测偏好主题的所有主题词的权重;进而得到N个预测偏好主题的所有主题词的权重;
步骤12、从数据库中取出所有待推荐业务,记为O={O1,O2,...,Ob,...,OB},Ob表示第b个待推荐业,1≤b≤B;
步骤13、根据第b个待推荐业务Ob从数据库中匹配相应的相似信息;
步骤14、利用分词工具对第b个待推荐业务Ob和相似信息进行分词,得到第b个待推荐业务Ob的初始文档D0';
步骤15、利用LDA主题模型对初始文档D0'进行主题提取,得到第b个待推荐业务Ob的n'个主题,记为 表示第b个待推荐业务Ob的第i'个主题;并有 表示第b个待推荐业务Ob的第i'个主题的第j'个主题词,表示第b个待推荐业务Ob的第i'个主题的第j'个主题词的权重;1≤i'≤n';1≤j'≤m';
步骤16、按照步骤15得到所有待推荐业务O的主题
步骤17、计算用户A对第b个待推荐业务Ob的偏好度从而得到用户A对所有待推荐业务O=(O1,O2,...,Ob,...,OB)的偏好度
步骤17.1、利用式(7)计算用户A的第i个主题Ti A和第b个待推荐业务Ob的第i'个主题的余弦相似度
步骤17.2、利用式(8)计算用户A的第i个主题Ti A和第b个待推荐业务Ob的所有主题的平均相似度
步骤17.3、按照步骤17.2计算用户A的所有主题和第b个待推荐业务Ob所有主题相似度,并取相似度最高的M”个主题及其对应的平均相似度;记为 表示用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题;表示用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题的平均相似度;
步骤17.4、利用式(9)计算用户A对第b个待推荐业务Ob的偏好度为
步骤18、对偏好度P进行降序排序,并将前Np个偏好度所对应的业务推荐给用户A。

Claims (1)

1.一种基于受限玻尔兹曼机的文本业务推荐方法,其特征是应用于由数据库、服务器和客户端所构成的一个推荐环境中,所述推荐方法是按如下步骤进行:
步骤1、利用客户端获取用户A的需求信息,并根据所述需求信息从所述数据库中匹配相应的相似信息;
步骤2、利用分词工具对所述用户A的需求信息和相似信息进行分词,得到所述用户A的需求文档D0
步骤3、利用LDA主题模型对所述需求文档D0进行主题提取,得到所述用户A的n个主题,记为Ti A表示所述用户A的第i个主题;并有 表示所述用户A的第i个主题的第j个主题词,表示所述用户A的第i个主题的第j个主题词的权重;1≤i≤n;1≤j≤m;
步骤4、对所述用户A的第i个主题的m个主题词分别设置相应的权值,记为 表示所述用户A的第i个主题的第j个主题词的权值;
步骤5、计算主题词集合C出现的次数:
步骤5.1、对所述用户A的n个主题中所有主题词取并集,得到所述用户A的主题词集合C={c1,c2,...,ck,...,cK},ck表示所述用户A的第k个主题词,1≤k≤K;
步骤5.2、利用所述用户A的主题词集合C={c1,c2,...,ck,...,cK}与所述用户A的第i个主题计算主题词集合C中第k个主题词ck在主题Ti A中主题词出现的次数rk;从而得到所述用户A的主题词集合C中每一主题词在所有主题的主题词出现的次数R={r1,r2,...,rk,...,rK};
步骤6、定义更新次数为s,并初始化s=0;利用式(1)获得第s次更新的第k个主题词ck的加权平均权重从而获得第s次更新的K个主题词的初始加权平均权重
式(1)表示在所述用户A的主题词集合C中与第k个主题词ck相同的所有主题词的权重和权值的乘积之和,式(1)中,表示与第k个主题词ck相同的第i个主题的第j个主题词的权重,表示与第k个主题词ck相同的第i个主题的第j个主题词的权值;
步骤7、构建所述用户A的RBM主题偏好模型;
步骤7.1、所述RBM主题偏好模型的第一层为可见层、第二层为隐藏层;所述可见层包含K个可见单元,并将所述第s次更新的K个主题词的加权平均权重作为所述K个可见单元的输入值;所述隐藏层包含L个隐层单元,记为h={h1,h2,...,hl,...,hL},hl表示第l个隐层单元,1≤l≤L;
步骤7.2、随机初始化第s次更新的可见层和隐藏层之间的权重,记为Ws;其中,记第s次更新的可见层中第k个可见单元与第l个隐层单元之间的权重为1≤k≤K;
步骤7.3、利用式(2)得到所述用户A的主题偏好模型的第s次更新的第l个隐层单元hl的值从而得到所有隐层单元的值
步骤7.4、利用式(3)得到所述用户A的主题偏好模型的第s+1次更新的第k个可见单元的值从而得到主题偏好模型的第s+1次更新的所有可见单元的值
式(3)中,表示调节参数;
步骤7.5、利用式(4)更新第s次更新的第k个可见单元和第l个隐层单元之间的权重得到第s+1次更新的第k个可见层和第l个隐藏层之间的权重为从而得到所有可见层与隐层之间的权重Ws+1
式(4)中,η表示学习速率;
步骤7.6、将s+1赋值给s,并返回步骤7.3顺序执行,直到所有可见层与隐层之间的权重收敛为止;
步骤8、从所述数据库中获取所述用户A的近邻用户,记为U={u1,u2,...,uz,...,uZ},uz表示所述用户A的第z个近邻用户,1≤z≤Z;
步骤9、建立所述用户A的近邻用户U的RBM主题偏好模型及预测所有未知主题词的加权平均权重:
步骤9.1、按照步骤1获取所述用户A的第z个近邻用户uz的需求信息和相似信息,并分别按照步骤2与步骤3得到第z个近邻用户uz的需求文档Dz及nz个主题;
步骤9.2、对所述第z个近邻用户uz的nz个主题中所有主题词分别设置相应的权值,从而利用式(1)获得第z个近邻用户uz的nz个主题的所有主题词的初始加权平均权重;
步骤9.3、按照步骤7构建所述用户A的第z个近邻用户uz的RBM主题偏好模型;从而得到所述用户A的所有近邻用户的RBM主题偏好模型;
步骤9.4、将所述用户A的所有邻居用户的相应主题词做并集后再与所述用户A的所有主题词做差集,得到待预测主题词集合,记为G={g1,g2,...,ge,...,gE};ge表示第e个待预测主题词;1≤e≤E;
步骤9.5、利用式(5)得到第e个待预测主题词ge所在的RBM主题偏好模型的可见层中,与第e个待预测主题词ge相对应的可见单元与第l个隐层单元的平均权重
式(6)中,表示在所述近邻用户U中包含第e个待预测主题词ge的所有近邻用户的第e个待预测主题词ge相对应的可见单元与第l个隐层单元的权重之和;表示所述近邻用户U中包含第e个待预测主题词ge的所有近邻用户的数量;
步骤9.6、利用式(6)预测得到所述用户A的第e个待预测主题词ge的加权平均权重从而得到所述用户A的所有待预测主题词的加权平均权重:
式(7)中,ξ为另一个调节参数;表示收敛时第l个隐层单元hl的值
步骤10、构建所述用户A的RBM未知偏好主题预测模型;
步骤10.1、去除所述用户A的所有待预测主题词的加权平均权重中若干个较小值,得到所述用户A的未知偏好主题词,记为G'={g1',g2',...,gf',...,gF'};1≤f≤F;
步骤10.2、对所述用户A的第z个近邻用户uz的第α个主题的主题词与所述未知偏好主题词G'取交集,得到的集合记为集合的大小,记为1≤α≤nz;从而得到第z个近邻用户uz的所有主题的主题词与所述主题词G'的交集的大小,记为集合进而得到所有近邻用户U={u1,u2,...,uz,...,uZ}的所有主题的主题词与所述主题词G'的交集的大小
步骤10.3、对第z个近邻用户uz的集合中所有元素进行求和,得到的值记为从而对所有近邻用户HU中所有元素进行求和,得到的值的集合,记为
步骤10.4、对H中的值进行降序排序,将前M个最大的值所对应的M个近邻用户的主题,作为所述用户A的预测主题的范围;
步骤10.5、对所述M个近邻用户中的任意一个近邻用户的任意一个主题的所有主题词,与所述主题词G'作交集,得到交集集合中的主题词个数;从而得到所述M个近邻用户中的任意一个近邻用户的所有主题的主题词与所述主题词G'作交集后的主题词个数;进而得到M个近邻用户所有主题的主题词与所述主题词G'作交集后的主题词个数;
步骤10.6、对M个近邻用户所有主题的主题词与所述主题词G'作交集后的主题词个数进行降序排序,将前N个最大的值所对应的主题,作为所述用户A的预测偏好主题;
步骤11、更新所述用户A的预测偏好主题的主题词的权重;
步骤11.1、判断所述用户A的任一预测偏好主题的主题词是否出现在主题词G'中,若是,则执行步骤11.2,否则表示出现在主题词C中,并执行步骤11.3;
步骤11.2、利用式(1)计算所述用户A的任一预测偏好主题的主题词在所述主题词G'的权重,其中,rk取值为任一预测偏好主题所在近邻用户的所有主题中与所述用户A的第k个主题词ck相同的主题词出现的次数,取值为第k个主题词ck在任一预测偏好主题所在近邻用户的所有主题中的平均权值;
步骤11.3、利用式(1)计算所述用户A的任一预测偏好主题的主题词在所述主题词C={c1,c2,...,ck,...,cK}中的权重,其中,rk取值为所述用户A的所有主题中第k个主题词ck出现的次数,取值为第k个主题词ck在所述用户A的所有主题中的平均权值;
步骤11.4、重复步骤11.1,从而计算任一预测偏好主题的所有主题词的权重;进而得到N个预测偏好主题的所有主题词的权重;
步骤12、从所述数据库中取出所有待推荐业务,记为O={O1,O2,...,Ob,...,OB},Ob表示第b个待推荐业务,1≤b≤B;
步骤13、根据所述第b个待推荐业务Ob从所述数据库中匹配相应的相似信息;
步骤14、利用分词工具对所述第b个待推荐业务Ob和相似信息进行分词,得到所述第b个待推荐业务Ob的初始文档D0';
步骤15、利用LDA主题模型对所述初始文档D0'进行主题提取,得到所述第b个待推荐业务Ob的n'个主题,记为 表示所述第b个待推荐业务Ob的第i'个主题;并有 表示所述第b个待推荐业务Ob的第i'个主题的第j'个主题词,表示所述第b个待推荐业务Ob的第i'个主题的第j'个主题词的权重;1≤i'≤n';1≤j'≤m';
步骤16、按照步骤15得到所有待推荐业务O的主题
步骤17、计算所述用户A对第b个待推荐业务Ob的偏好度从而得到所述用户A对所有待推荐业务O=(O1,O2,...,Ob,...,OB)的偏好度
步骤17.1、计算所述用户A的第i个主题Ti A和第b个待推荐业务Ob的第i'个主题的余弦相似度
步骤17.2、利用式(7)计算所述用户A的第i个主题Ti A和第b个待推荐业务Ob的所有主题的平均相似度
步骤17.3、按照步骤17.2计算所述用户A的所有主题和第b个待推荐业务Ob所有主题相似度,并取相似度最高的M”个主题及其对应的平均相似度;记为 表示所述用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题;表示所述用户A的所有主题和第b个待推荐业务Ob的第m”个相似度最高的偏好主题的平均相似度;
步骤17.4、利用式(8)计算所述用户A对第b个待推荐业务Ob的偏好度为
步骤18、对偏好度P进行降序排序,并将前Np个偏好度所对应的业务推荐给用户A。
CN201710040092.XA 2017-01-18 2017-01-18 一种基于受限玻尔兹曼机的文本业务推荐方法 Active CN106777359B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710040092.XA CN106777359B (zh) 2017-01-18 2017-01-18 一种基于受限玻尔兹曼机的文本业务推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710040092.XA CN106777359B (zh) 2017-01-18 2017-01-18 一种基于受限玻尔兹曼机的文本业务推荐方法

Publications (2)

Publication Number Publication Date
CN106777359A CN106777359A (zh) 2017-05-31
CN106777359B true CN106777359B (zh) 2019-06-07

Family

ID=58944370

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710040092.XA Active CN106777359B (zh) 2017-01-18 2017-01-18 一种基于受限玻尔兹曼机的文本业务推荐方法

Country Status (1)

Country Link
CN (1) CN106777359B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107480241A (zh) * 2017-08-10 2017-12-15 北京奇鱼时代科技有限公司 一种基于潜在主题的相似企业推荐方法
CN109255646A (zh) * 2018-07-27 2019-01-22 国政通科技有限公司 利用大数据进行深度学习以提供增值服务的方法、***
CN109992245A (zh) * 2019-04-11 2019-07-09 河南师范大学 一种基于主题模型进行企业科技服务需求建模的方法及***
CN111339428B (zh) * 2020-03-25 2021-02-26 江苏科技大学 基于受限玻尔兹曼机驱动的交互式个性化搜索方法
CN112163157B (zh) * 2020-09-30 2023-01-10 腾讯科技(深圳)有限公司 一种文本推荐方法、装置、服务器及介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103324690A (zh) * 2013-06-03 2013-09-25 焦点科技股份有限公司 基于因子化条件受限玻尔兹曼机的混合推荐方法
CN105243435A (zh) * 2015-09-15 2016-01-13 中国科学院南京土壤研究所 一种基于深度学习元胞自动机模型的土壤含水量预测方法
CN105302873A (zh) * 2015-10-08 2016-02-03 北京航空航天大学 一种基于条件受限波尔兹曼机的协同过滤优化方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103324690A (zh) * 2013-06-03 2013-09-25 焦点科技股份有限公司 基于因子化条件受限玻尔兹曼机的混合推荐方法
CN105243435A (zh) * 2015-09-15 2016-01-13 中国科学院南京土壤研究所 一种基于深度学习元胞自动机模型的土壤含水量预测方法
CN105302873A (zh) * 2015-10-08 2016-02-03 北京航空航天大学 一种基于条件受限波尔兹曼机的协同过滤优化方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
利用社交关系的实值条件受限玻尔兹曼机协同过滤推荐算法;何洁月 等;《计算机学报》;20160131;第39卷(第1期);183-195
基于深度信念网络的个性化信息推荐;王兆凯 等;《计算机工程》;20161031;第42卷(第10期);201-206

Also Published As

Publication number Publication date
CN106777359A (zh) 2017-05-31

Similar Documents

Publication Publication Date Title
CN106777359B (zh) 一种基于受限玻尔兹曼机的文本业务推荐方法
CN104199896B (zh) 基于特征分类的视频相似度确定及视频推荐方法
CN105095219B (zh) 微博推荐方法和终端
CN104484431B (zh) 一种基于领域本体的多源个性化新闻网页推荐方法
CN112214685A (zh) 一种基于知识图谱的个性化推荐方法
Zhang et al. Some similarity measures for triangular fuzzy number and their applications in multiple criteria group decision‐making
CN107391687A (zh) 一种面向地方志网站的混合推荐***
CN105824911B (zh) 基于lda用户主题模型的视频推荐方法
CN106959966A (zh) 一种信息推荐方法及***
CN104951518B (zh) 一种基于动态增量更新的上下文推荐方法
CN105095433A (zh) 实体推荐方法及装置
CN101482884A (zh) 一种基于用户偏好评分分布的协作推荐***
CN106250545A (zh) 一种基于用户搜索内容的多媒体推荐方法及***
CN106951471A (zh) 一种基于svm的标签发展趋势预测模型的构建方法
CN105069129B (zh) 自适应多标签预测方法
CN107180078A (zh) 一种基于用户兴趣学习的垂直搜索方法
CN103425763A (zh) 基于sns的用户推荐方法及装置
CN113806630A (zh) 基于注意力的多视角特征融合跨域推荐方法及装置
CN110083764A (zh) 一种协同过滤算法冷启动问题的解决方法
CN109670909A (zh) 一种基于概率矩阵分解和特征融合的旅游产品推荐方法
CN108109058A (zh) 一种融合人格特质和物品标签的单分类协同过滤方法
CN102214227B (zh) 基于互联网层次结构存储的自动舆情监控方法
CN106446191B (zh) 一种基于Logistic回归的多特征网络流行标签预测方法
Yang Clothing design style recommendation using decision tree algorithm combined with deep learning
Wang et al. Emotion semantics image retrieval: An brief overview

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant