CN104008203A - 一种融入本体情境的用户兴趣挖掘方法 - Google Patents

Abstract

一种融入本体情境的用户兴趣挖掘方法，首先针对电子商务网站中复杂多维的Web用户兴趣行为特征数据，构建基于二阶隐马尔可夫模型的用户兴趣特征提取模型；其次分析了能反映用户兴趣的情境信息，包括用户的个体信息、环境信息以及设备信息等；再次构建了基于情境本体的用户兴趣模型，同时采用逻辑模糊的思想对用户个体信息的兴趣度进行了度量与表达，最后基于隐半马尔可夫模型的用户兴趣漂移检测方法，根据用户浏览路径构建模型，将序列的平均对数或然概率的均值作为阈值点，用以判断兴趣是否发生了漂移。本发明构建了能够满足用户需求的兴趣模型以提供个性化推荐服务，提高用户满意度的有效手段，具有良好的应用价值。

Description

一种融入本体情境的用户兴趣挖掘方法

技术领域

本发明涉及数据挖掘与本体技术领域，尤其是一种用户兴趣挖掘方法，特别适用于用户个性化信息服务的问题。

背景技术

网络应用越来越复杂，数据量也越来越大，一些如电子商务、web站点设计等工作变得更加复杂与繁重，这需要在用户现有信息的基础上，从用户访问兴趣、访问时间、访问频度等行为方面动态调整网页结构，有针对性的开展电子商务来满足用户需求，提供个性化服务。Internet的个性化信息服务就是根据用户不同的特点，以及用户兴趣爱好进行自动的信息组织与调整的服务，以一种快速，高效，准确的信息获取方式来解决用户信息迷向等问题。基于此，如何从迅速膨胀的信息中准确理解用户的信息需求，构建表征网络用户特征、兴趣、目标和行为偏好的用户模型并据此来预测用户行为、更好地为用户提供个性化服务已成为一个难题。同时如何及时并且准确地发现用户兴趣漂移，构建动态更新的用户兴趣模型，以满足不同用户的个性化信息需求服务，已经成为个性化信息服务的关键问题。

发明内容

为了克服现有的数据挖掘方式的无法满足用户需求的兴趣模型以提供个性化推荐服的不足，本发明构建能够满足用户需求的兴趣模型以提供个性化推荐服务，提高用户满意度的有效手段，提供了一种融入本体情境的用户兴趣挖掘方法。

本发明解决其技术问题所采用的技术方案是：

一种融入本体情境的用户兴趣挖掘方法，所述用户兴趣挖掘方法包括以下步骤：

1)建立基于二阶隐马尔可夫模型的用户兴趣特征提取模型：

首先需要收集得到那些能够反映用户兴趣的数据，过程如下：从客户端、服务器端、代理服务器端获得用户源数据，这些源数据获取之后，将它们进行预处理并以设定的格式进行保存，供以后用户兴趣的挖掘。

其次，采用二阶隐马尔可夫模型对用户兴趣特征提取，包括训练部分与提取部分；

训练部分包括将用户兴趣的特征信息先后顺序进行预处理，形成文本文档，然后对文本经过扫描后，利用分隔符、空格、换行、冒号排版将已标记文本序列转换为标记的文本分块序列，最后用二阶HMM模型对其计算以下模型参数，其参数的确定算法如公式所示：

①初始概率分布矢量

${\mathrm{\π}}_i=\frac{\mathrm{Init}\left(i\right)}{\underset{j=1}{\overset{N}{\mathrm{\Σ}}}\mathrm{Init}\left(j\right)},1\≤i\≤N---\left(1\right)$

其中，Init(i)指已标记的整个训练样本中，以状态S_i为开始状态序列的个数，则指以所有状态为开始状态序列的个数总和；

②初始状态转移概率

$a_{\mathrm{ij}}=\frac{C_{\mathrm{ij}}}{\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{ik}}},1\≤i,j\≤N---\left(2\right)$

$a_{\mathrm{ijk}}=\frac{C_{\mathrm{ijk}}}{\underset{u=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{iju}}},1\≤i,j,k\≤N---\left(3\right)$

其中，C_ij和C_ijk分别表示从状态S_i到S_j的转移次数，以及t-1时刻的状态S_i，t时刻状态S_j，转移到t+1时刻状态为S_k的次数。和分别表示从状态S_i到所有状态的转移次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，转移到所有状态的次数之和；

③观察值释放概率

$b_j\left(O_k\right)=\frac{E_j\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_j\left(O_i\right)},1\≤j\≤N---\left(4\right)$

$b_{\mathrm{ij}}\left(O_k\right)=\frac{E_{\mathrm{ij}}\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_{\mathrm{ij}}\left(O_u\right)},1\≤i,j\≤N,1\≤k\≤M---\left(5\right)$

其中，E_j(O_k)和E_ij(O_k)分别表示状态S_j时释放观察值O_k的次数，以及t-1时刻的状态S_i，t时刻状态S_j，释放观察值O_k的次数。和分别表示状态S_j时释放所有观察值的次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，释放所有观察值的次数之和；

提取部分包括两个步骤，即：(a)对待提取特征的文本进行预处理，对文本经过扫描后，利用分隔符、空格、换行、冒号排版将已标记文本序列转换为标记的文本分块序列；(b)结合训练部分输出的二阶HMM模型，利用Viterbi算法进行计算，应用已建立好的HMM模型进行用户兴趣特征提取，将处理得到后的状态输出观察值O＝O₁O₂...O_T作为模型输入，从中找出状态标签序列中概率最大的，用户特征提取的内容就是被标记为目标状态标签的观察文本；

2)分析反映用户兴趣的情境信息：通过对用户的搜索、浏览行为与购买记录信息的分析，推导出一段时间内用户的真实兴趣；

3)融入情境的用户兴趣本体模型构建：先将地域、性别、年龄、婚姻、教育背景和收入几个影响用户兴趣的关键作为背景因素指标，并结合用户的历史购买信息以及用户行为特征进行模糊处理以得到其兴趣度值；然后采用本体情境的表示方法，通过多粒度划分，构建用户兴趣本体模型；

4)基于隐半马尔可夫模型的用户兴趣漂移检测方法：

选取两个观察值来描述用户的浏览行为：a)用户访问网页的浏览路径序列；b)从一个网页到达另一个网页的时间间隔；所有状态集合表示为S＝{S₁,S₂,...,S_N}，相对应的观察值集合表示为V＝{v₁,v₂,...,v_N}，时间间隔表示为集合I＝{1,2,...}；对于用户的某一浏览行为，其浏览路径链接的个数是一个随机变量，在给定状态下输出的观察值的个数可将该浏览行为表示成集合{1,...,D}。把用户浏览路径序列即二维观察值序列表示成O＝{(r₁,τ₁),...,(r_T,τ_T)}，其中：r_t∈V表示用户浏览网页内容的对象；τ_t∈I表示用户从一个页面跳转到另一个页面r_t与r_t-1之间的时间间隔；模型的输出概率矩阵用B＝{b_i(v,q)}表示，对于给定状态i∈S，b_i(v,q)表示用户在一个页面r_t＝v∈V且与前一个页面的时间间隔为τ_t＝q∈I的概率，且满足∑_v,qb_i(v,q)＝1；用P＝{p_i(d)}表示在给定状态i下输出观察值个数为d∈{1,...,D}的概率，是隐半马尔可夫模型中状态驻留时间的概率矩阵，且满足∑_dp_i(d)＝1；状态转移概率矩阵通过A＝{a_ij}进行表示，a_ij表示从i∈S向j∈S转移的概率；初始概率向量用π＝{π_i}表示，π_i表示初始状态在i∈S时的概率；

将用户的一条重要的兴趣行为记录定义为：U_interest＝{user,background,history,behavior,timestamp,content}，其中，user用户表示，如ID；background表示用户具体背景因素；history表示用户的历史购买记录；behavior标识具体兴趣行为操作结果；timestamp表示用户行为的执行时间；content表示兴趣主题内容；

在用户访问事务中，任意两个行为操作之间存在着访问转移概率P(q_i→q_j)，表示兴趣权重如下：

$P(q_i\→q_j)=P\left(q_j\right|q_i)=\frac{P\left(q_i{q}_j\right)}{P\left(q_i\right)}=\left\{\begin{array}{cc}\frac{{\mathrm{\θ}}_1{W}_B(q_i,q_j)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}(q_i,q_j)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}(q_i,q_j)+{\mathrm{\θ}}_4{W}_L(q_i,q_j)}{{\mathrm{\θ}}_1{W}_B\left(q_i\right)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}\left(q_i\right)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}\left(q_i\right)+{\mathrm{\θ}}_4{W}_L\left(q_i\right)},& i\≠j\\ 0,& i=j\end{array}\right.---\left(6\right)$

对于每个q_j及其相对应的概念都存在一个观察值概率分布即u对q_j的所有访问中，对的兴趣概率，可由at_i所包含被访问节点的集合为Q_i＝{q′₁,...,q'_f|q'∈IC}，则Q_i,j表示at_i中在q_j之后的所有被访问节点的集合，表示Q_i,j中含有节点的集合：

$Q_{i,j}=\left\{\begin{array}{c}\left\{q_{k+l}^{\′}\right|q_k^{\′}=q_j,l=0,...,(f-k)\},q_j\∈Q_i\\ \mathrm{Null}\end{array}\right.---\left(7\right)$

将u在q_j上观察值概率分布定义为：

然后在用户u根据的所有可能访问序列中寻找一个状态序列，建立用户兴趣行为的隐半马尔可夫模型，使其具有最大的访问概率：

$P_{\max }\left({\mathrm{\σ}}_z^k\right)=\arg \max \mathrm{\ΠP}(q_k\→q_{k+1})P\left({\mathrm{\σ}}_z^k\right|q_k)---\left(9\right)$

在对用户兴趣漂移进行检测的过程中，首先需要采集HSMM模型中的观察序列，并且在模型进行训练之前对数据进行预处理，确定模型参数后，然后通过调用HSMM算法，得到用户兴趣不变的概率值，其概率值用平均对数或然概率进行计算，当用户的兴趣值处在正常范围内，则将用户数据加入到训练数据集中，以更新隐半马尔可夫模型的参数；否则，该用户将被认为是兴趣漂移。

进一步，所述步骤1)中，获取用户个性化信息的途径有两种：(a)通过网络调查，用户自己参与的方式进行收集；(b)通过跟踪用户行为来获取用户的兴趣信息，采用用户行为数据的特征提取方法。

更进一步，所述步骤2)中，用户的行为信息包括用户搜索关键词、用户历史购买记录和用户历史浏览行为。

再进一步，所述步骤3)中，根据用户的兴趣情境信息，在构建用户本体情境中，将用户情境划分为用户个体情境、用户环境情境以及用户设备情境，。本体采用层次概念树的形式，用户情境的某一元素就是通过树中的每个节点来表示的，即构建情境本体树。

本发明的技术构思为：面向用户的个性化服务领域，根据方法所涉及的概念漂移和情境问题，提出了融入本体情境的用户兴趣挖掘方法，构建了能够满足用户需求的兴趣模型以提供个性化推荐服务，提高了用户满意度的有效手段。

基于此，本发明以用户个性化信息服务为研究对象，引入数据挖掘、本体技术，充分考虑用户个性化特征，提出一种融入本体情境的用户兴趣挖掘方法，有效实现用户个性化服务需求。

引入数据挖掘、本体技术，充分考虑用户个性化特征，首先针对电子商务网站中复杂多维的Web用户兴趣行为特征数据，构建基于二阶隐马尔可夫模型(Second-Order Hidden Markov Model)的用户兴趣特征提取模型；其次分析了能反映用户兴趣的情境信息，包括用户的个体信息、环境信息以及设备信息等；再次构建了基于情境本体的用户兴趣模型，同时采用逻辑模糊的思想对用户个体信息的兴趣度进行了度量与表达，最后基于隐半马尔可夫模型(Hidden Semi-MarkovModel,HSMM)的用户兴趣漂移检测方法，根据用户浏览路径构建模型，将序列的平均对数或然概率的均值作为阈值点，用以判断兴趣是否发生了漂移。

本发明的有益效果在于：本发明构建了能够满足用户需求的兴趣模型以提供个性化推荐服务，提高用户满意度的有效手段，具有良好的应用价值。

附图说明

图1是基于二阶HMM的兴趣特征提取的算法流程图。

图2是用户情境本体的构建流程。

图3兴趣漂移检测框图。

具体实施方式

下面结合附图对本发明作进一步描述。

参照图1、图2和图3，一种融入本体情境的用户兴趣挖掘方法，所述用户兴趣挖掘方法包括以下步骤：

5)建立基于二阶隐马尔可夫模型的用户兴趣特征提取模型：Web信息抽取(Web Information Extraction)属于Web内容挖掘的范畴，是从半结构化的Web文档中抽取数据，将Web作为信息源的一类信息抽取方法。本步骤包括用户数据的收集以及用户兴趣特征提取模型的建立。

为了构建用户兴趣模型，首先需要收集得到那些能够反映用户兴趣的数据。通常情况下，用户的数据往往很多，包括用户注册的信息，日志信息，文本页面内容数据，站点拓扑结构，用户的行为数据，以及页面超链结信息等。这些数据可以从客户端、服务器端、代理服务器端等数据源获得，这些元数据获取之后，可将它们进行预处理并以适当的格式进行保存，供以后用户兴趣的挖掘。归纳起来，获取用户个性化信息的途径主要有两种：(a)通过网络调查，用户自己参与的方式进行收集。这种方法可以直接获取用户的兴趣与信息需求倾向，但是必须要有用户的积极配合；(b)通过跟踪用户行为来获取用户的兴趣信息。由于第一种获取用户数据的途径，例如注册信息，直接由用户以表单的方式提供，传入后台数据库，其用户兴趣特征的提取比较方便，而通过跟踪用户的隐式行为来推断用户兴趣的数据却无法直接获得，所以这里主要采用用户行为数据的特征提取方法。

其次，用户兴趣的特征提取属于文本信息抽取范畴，而信息抽取已经成为自然语言处理的一个重要方向，理论研究不断得到发展。目前有关信息抽取的模型主要有3类：一种是基于字典的模型；一种是基于规则的模型，如本体；一种是基于统计的模型，如隐马尔可夫模型(HMM)。由于HMM有非常适合自然语言处理的统计学基础，加上其抽取鲁棒性强、精度高、易于建立而且适应性强等优点，越来越受到研究者的关注。这里采用二阶隐马尔可夫模型对用户兴趣特征提取，流程图如图1所示。主要包括两大部分，即训练部分与提取部分。

训练部分包括将用户兴趣的一些特征信息先后顺序进行预处理，形成文本文档，然后对文本经过扫描后，利用分隔符、空格、换行、冒号等排版将已标记文本序列转换为标记的文本分块序列，最后用二阶HMM模型对其计算以下模型参数，其参数的确定算法如公式所示：

①初始概率分布矢量

${\mathrm{\π}}_i=\frac{\mathrm{Init}\left(i\right)}{\underset{j=1}{\overset{N}{\mathrm{\Σ}}}\mathrm{Init}\left(j\right)},1\≤i\≤N---\left(10\right)$

其中，Init(i)指已标记的整个训练样本中，以状态S_i为开始状态序列的个数，则指以所有状态为开始状态序列的个数总和。

②初始状态转移概率

$a_{\mathrm{ij}}=\frac{C_{\mathrm{ij}}}{\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{ik}}},1\≤i,j\≤N---\left(11\right)$

$a_{\mathrm{ijk}}=\frac{C_{\mathrm{ijk}}}{\underset{u=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{iju}}},1\≤i,j,k\≤N---\left(12\right)$

其中，C_ij和C_ijk分别表示从状态S_i到S_j的转移次数，以及t-1时刻的状态S_i，t时刻状态S_j，转移到t+1时刻状态为S_k的次数。和分别表示从状态S_i到所有状态的转移次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，转移到所有状态的次数之和。

③观察值释放概率

$b_j\left(O_k\right)=\frac{E_j\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_j\left(O_i\right)},1\≤j\≤N---\left(13\right)$

$b_{\mathrm{ij}}\left(O_k\right)=\frac{E_{\mathrm{ij}}\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_{\mathrm{ij}}\left(O_u\right)},1\≤i,j\≤N,1\≤k\≤M---\left(14\right)$

其中，E_j(O_k)和E_ij(O_k)分别表示状态S_j时释放观察值O_k的次数，以及t-1时刻的状态S_i，t时刻状态S_j，释放观察值O_k的次数。和分别表示状态S_j时释放所有观察值的次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，释放所有观察值的次数之和。

提取部分包括两个步骤，即：(a)对待提取特征的文本进行预处理，对文本经过扫描后，利用分隔符、空格、换行、冒号等排版将已标记文本序列转换为标记的文本分块序列；(b)结合训练部分输出的二阶HMM模型，利用Viterbi算法进行计算。应用已建立好的HMM模型进行用户兴趣特征提取。将处理得到后的状态输出观察值O＝O₁O₂...O_T作为模型输入，从中找出状态标签序列中概率最大的，用户特征提取的内容就是被标记为目标状态标签的观察文本。

6)分析反映用户兴趣的情境信息：网络用户的兴趣特征主要是由与用户兴趣相关的内在因素和外在因素影响的。内在因素有性别、年龄、职业、性格、教育、收入等方面，外在因素则包括了文化背景、社会环境、家庭情况等方面，内在和外在的多方面因素导致了网络用户不同行为的产生。正因为这种原因，使得不同的用户存在多方面的差异，对商品的兴趣程度与偏向也有所不同。

用户的兴趣常常能在自身的行为中得到反映，当他们对某种东西有兴趣就会产生一定的倾向性，用户的需求与兴趣会被记录在他们的行为信息中，因此可以通过对用户的搜索、浏览行为与购买记录等信息的分析，推导出一段时间内用户的真实兴趣。这里，用户的行为信息主要包括以下几个方面：用户搜索关键词、用户历史购买记录、用户历史浏览行为等。

7)融入情境的用户兴趣本体模型构建：先将地域、性别、年龄、婚姻、教育背景和收入几个影响用户兴趣的关键作为背景因素指标，并结合用户的历史购买信息以及用户行为特征进行模糊处理以得到其兴趣度值；然后采用本体情境的表示方法，通过多粒度划分，构建用户兴趣本体模型。构建用户情境本体模型的流程图如图2所示。

根据用户的兴趣情境信息，在构建用户本体情境中，将用户情境划分为用户个体情境、用户环境情境以及用户设备情境。本体通常是采用层次概念树的形式，用户情境的某一元素就是通过树中的每个节点来表示的，即构建情境本体树。

8)基于隐半马尔可夫模型的用户兴趣漂移检测方法：网上用户在浏览中的购物行为过程是受浏览目的、文化背景、兴趣爱好等多种个体因素影响的复杂过程，通过对背景因素、用户行为以及兴趣内容来综合考虑用户的兴趣，并建立隐半马尔可夫模型(HSMM)来检测用户兴趣是否发生漂移。

假设用户在浏览网页的过程中，其浏览行为符合马尔可夫性，则本文选取以下两个观察值来描述用户的浏览行为：a)用户访问网页的浏览路径序列；b)从一个网页到达另一个网页的时间间隔。所有状态集合表示为S＝{S₁,S₂,...,S_N}，相对应的观察值集合表示为V＝{v₁,v₂,...,v_N}，时间间隔表示为集合I＝{1,2,...}；对于用户的某一浏览行为，其浏览路径链接的个数是一个随机变量，在给定状态下输出的观察值的个数可将该浏览行为表示成集合{1,...,D}。把用户浏览路径序列即二维观察值序列表示成O＝{(r₁,τ₁),...,(r_T,τ_T)}，其中：r_t∈V表示用户浏览网页内容的对象；τ_t∈I表示用户从一个页面跳转到另一个页面r_t与r_t-1之间的时间间隔。模型的输出概率矩阵用B＝{b_i(v,q)}表示，对于给定状态i∈S，b_i(v,q)表示用户在一个页面r_t＝v∈V且与前一个页面的时间间隔为τ_t＝q∈I的概率，且满足∑_v,qb_i(v,q)＝1。用P＝{p_i(d)}表示在给定状态i下输出观察值个数为d∈{1,...,D}的概率，是隐半马尔可夫模型中状态驻留时间的概率矩阵，且满足∑_dp_i(d)＝1。状态转移概率矩阵通过A＝{a_ij}进行表示，a_ij表示从i∈S向j∈S转移的概率。初始概率向量用π＝{π_i}表示，π_i表示初始状态在i∈S时的概率。

将用户的一条重要的兴趣行为记录定义为：U_interest＝{user,background,history,behavior,timestamp,content}。其中，user用户表示，如ID；background表示用户具体背景因素；history表示用户的历史购买记录；behavior标识具体兴趣行为操作结果；timestamp表示用户行为的执行时间；content表示兴趣主题内容。

在用户访问事务中，任意两个行为操作之间存在着访问转移概率P(q_i→q_j)，可表示兴趣权重如下：

$P(q_i\→q_j)=P\left(q_j\right|q_i)=\frac{P\left(q_i{q}_j\right)}{P\left(q_i\right)}=\left\{\begin{array}{cc}\frac{{\mathrm{\θ}}_1{W}_B(q_i,q_j)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}(q_i,q_j)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}(q_i,q_j)+{\mathrm{\θ}}_4{W}_L(q_i,q_j)}{{\mathrm{\θ}}_1{W}_B\left(q_i\right)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}\left(q_i\right)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}\left(q_i\right)+{\mathrm{\θ}}_4{W}_L\left(q_i\right)},& i\≠j\\ 0,& i=j\end{array}\right.---\left(15\right)$

对于每个q_j及其相对应的概念都存在一个观察值概率分布即u对q_j的所有访问中。对的兴趣概率，可由at_i所包含被访问节点的集合为Q_i＝{q′₁,...,q'_f|q'∈IC}，则Q_i,j表示at_i中在q_j之后的所有被访问节点的集合，表示Q_i,j中含有节点的集合：

$Q_{i,j}=\left\{\begin{array}{c}\left\{q_{k+l}^{\′}\right|q_k^{\′}=q_j,l=0,...,(f-k)\},q_j\∈Q_i\\ \mathrm{Null}\end{array}\right.---\left(16\right)$

将u在q_j上观察值概率分布定义为：

然后在用户u根据的所有可能访问序列中寻找一个状态序列，建立用户兴趣行为的隐半马尔可夫模型，使其具有最大的访问概率：

$P_{\max }\left({\mathrm{\σ}}_z^k\right)=\arg \max \mathrm{\ΠP}(q_k\→q_{k+1})P\left({\mathrm{\σ}}_z^k\right|q_k)---\left(18\right)$

在对用户兴趣漂移进行检测的过程中，首先需要采集HSMM模型中的观察序列，这里主要是将用户的浏览行为数据用作观察值序列，并且在模型进行训练之前对数据进行预处理，确定模型参数后，然后通过调用HSMM算法，得到用户兴趣不变的概率值，其概率值用平均对数或然概率进行计算。当用户的兴趣值处在正常范围内，则将用户数据加入到训练数据集中，以更新隐半马尔可夫模型的参数；否则，该用户将被认为是兴趣漂移。漂移检测的实现方法如图3所示。

Claims (4)

1.一种融入本体情境的用户兴趣挖掘方法，其特征在于：所述用户兴趣挖掘方法包括以下步骤：

1)建立基于二阶隐马尔可夫模型的用户兴趣特征提取模型：

首先需要收集得到那些能够反映用户兴趣的数据，过程如下：从客户端、服务器端、代理服务器端获得用户源数据，这些源数据获取之后，将它们进行预处理并以设定的格式进行保存，供以后用户兴趣的挖掘。

其次，采用二阶隐马尔可夫模型对用户兴趣特征提取，包括训练部分与提取部分；

训练部分包括将用户兴趣的特征信息先后顺序进行预处理，形成文本文档，然后对文本经过扫描后，利用分隔符、空格、换行、冒号排版将已标记文本序列转换为标记的文本分块序列，最后用二阶HMM模型对其计算以下模型参数，其参数的确定算法如公式所示：

①初始概率分布矢量

${\mathrm{\π}}_i=\frac{\mathrm{Init}\left(i\right)}{\underset{j=1}{\overset{N}{\mathrm{\Σ}}}\mathrm{Init}\left(j\right)},1\≤i\≤N---\left(1\right)$

其中，Init(i)指已标记的整个训练样本中，以状态S_i为开始状态序列的个数，则指以所有状态为开始状态序列的个数总和；

②初始状态转移概率

$a_{\mathrm{ij}}=\frac{C_{\mathrm{ij}}}{\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{ik}}},1\≤i,j\≤N---\left(2\right)$

$a_{\mathrm{ijk}}=\frac{C_{\mathrm{ijk}}}{\underset{u=1}{\overset{N}{\mathrm{\Σ}}}{C}_{\mathrm{iju}}},1\≤i,j,k\≤N---\left(3\right)$

其中，C_ij和C_ijk分别表示从状态S_i到S_j的转移次数，以及t-1时刻的状态S_i，t时刻状态S_j，转移到t+1时刻状态为S_k的次数。和分别表示从状态S_i到所有状态的转移次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，转移到所有状态的次数之和；

③观察值释放概率

$b_j\left(O_k\right)=\frac{E_j\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_j\left(O_i\right)},1\≤j\≤N---\left(4\right)$

$b_{\mathrm{ij}}\left(O_k\right)=\frac{E_{\mathrm{ij}}\left(O_k\right)}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_{\mathrm{ij}}\left(O_u\right)},1\≤i,j\≤N,1\≤k\≤M---\left(5\right)$

其中，E_j(O_k)和E_ij(O_k)分别表示状态S_j时释放观察值O_k的次数，以及t-1时刻的状态S_i，t时刻状态S_j，释放观察值O_k的次数。和分别表示状态S_j时释放所有观察值的次数之和，以及t-1时刻的状态S_i，t时刻状态S_j，释放所有观察值的次数之和；

提取部分包括两个步骤，即：(a)对待提取特征的文本进行预处理，对文本经过扫描后，利用分隔符、空格、换行、冒号排版将已标记文本序列转换为标记的文本分块序列；(b)结合训练部分输出的二阶HMM模型，利用Viterbi算法进行计算，应用已建立好的HMM模型进行用户兴趣特征提取，将处理得到后的状态输出观察值O＝O₁O₂...O_T作为模型输入，从中找出状态标签序列中概率最大的，用户特征提取的内容就是被标记为目标状态标签的观察文本；

2)分析反映用户兴趣的情境信息：通过对用户的搜索、浏览行为与购买记录信息的分析，推导出一段时间内用户的真实兴趣；

3)融入情境的用户兴趣本体模型构建：先将地域、性别、年龄、婚姻、教育背景和收入几个影响用户兴趣的关键作为背景因素指标，并结合用户的历史购买信息以及用户行为特征进行模糊处理以得到其兴趣度值；然后采用本体情境的表示方法，通过多粒度划分，构建用户兴趣本体模型；

4)基于隐半马尔可夫模型的用户兴趣漂移检测方法：

选取两个观察值来描述用户的浏览行为：a)用户访问网页的浏览路径序列；b)从一个网页到达另一个网页的时间间隔；所有状态集合表示为S＝{S₁,S₂,...,S_N}，相对应的观察值集合表示为V＝{v₁,v₂,...,v_N}，时间间隔表示为集合I＝{1,2,...}；对于用户的某一浏览行为，其浏览路径链接的个数是一个随机变量，在给定状态下输出的观察值的个数可将该浏览行为表示成集合{1,...,D}。把用户浏览路径序列即二维观察值序列表示成O＝{(r₁,τ₁)，...,(r_T,τ_T)}，其中：r_t∈V表示用户浏览网页内容的对象；τ_t∈I表示用户从一个页面跳转到另一个页面r_t与r_t-1之间的时间间隔；模型的输出概率矩阵用B＝{b_i(v,q)}表示，对于给定状态i∈S，b_i(v,q)表示用户在一个页面r_t＝v∈V且与前一个页面的时间间隔为τ_t＝q∈I的概率，且满足∑_v,qb_i(v,q)＝1；用P＝{p_i(d)}表示在给定状态i下输出观察值个数为d∈{1,...,D}的概率，是隐半马尔可夫模型中状态驻留时间的概率矩阵，且满足∑_dp_i(d)＝1；状态转移概率矩阵通过A＝{a_ij}进行表示，a_ij表示从i∈S向j∈S转移的概率；初始概率向量用π＝{π_i}表示，π_i表示初始状态在i∈S时的概率；

将用户的一条重要的兴趣行为记录定义为：U_interest＝{user,background,history,behavior,timestamp,content}，其中，user用户表示，如ID；background表示用户具体背景因素；history表示用户的历史购买记录；behavior标识具体兴趣行为操作结果；timestamp表示用户行为的执行时间；content表示兴趣主题内容；

在用户访问事务中，任意两个行为操作之间存在着访问转移概率P(q_i→q_j)，表示兴趣权重如下：

$P(q_i\→q_j)=P\left(q_j\right|q_i)=\frac{P\left(q_i{q}_j\right)}{P\left(q_i\right)}=\left\{\begin{array}{cc}\frac{{\mathrm{\θ}}_1{W}_B(q_i,q_j)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}(q_i,q_j)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}(q_i,q_j)+{\mathrm{\θ}}_4{W}_L(q_i,q_j)}{{\mathrm{\θ}}_1{W}_B\left(q_i\right)+{\mathrm{\θ}}_2{W}_{\mathrm{HI}}\left(q_i\right)+{\mathrm{\θ}}_3{W}_{\mathrm{IB}}\left(q_i\right)+{\mathrm{\θ}}_4{W}_L\left(q_i\right)},& i\≠j\\ 0,& i=j\end{array}\right.---\left(6\right)$

对于每个q_j及其相对应的概念都存在一个观察值概率分布即u对q_j的所有访问中，对的兴趣概率，可由at_i所包含被访问节点的集合为Q_i＝{q′₁,...,q'_f|q'∈IC}，则Q_i,j表示at_i中在q_j之后的所有被访问节点的集合，表示Q_i,j中含有节点的集合：

$Q_{i,j}=\left\{\begin{array}{c}\left\{q_{k+l}^{\′}\right|q_k^{\′}=q_j,l=0,...,(f-k)\},q_j\∈Q_i\\ \mathrm{Null}\end{array}\right.---\left(7\right)$

将u在q_j上观察值概率分布定义为：

然后在用户u根据的所有可能访问序列中寻找一个状态序列，建立用户兴趣行为的隐半马尔可夫模型，使其具有最大的访问概率：

$P_{\max }\left({\mathrm{\σ}}_z^k\right)=\arg \max \mathrm{\ΠP}(q_k\→q_{k+1})P\left({\mathrm{\σ}}_z^k\right|q_k)---\left(9\right)$

在对用户兴趣漂移进行检测的过程中，首先需要采集HSMM模型中的观察序列，并且在模型进行训练之前对数据进行预处理，确定模型参数后，然后通过调用HSMM算法，得到用户兴趣不变的概率值，其概率值用平均对数或然概率进行计算，当用户的兴趣值处在正常范围内，则将用户数据加入到训练数据集中，以更新隐半马尔可夫模型的参数；否则，该用户将被认为是兴趣漂移。

2.如权利要求1所述的一种融入本体情境的用户兴趣挖掘方法，其特征在于：所述步骤1)中，获取用户个性化信息的途径有两种：(a)通过网络调查，用户自己参与的方式进行收集；(b)通过跟踪用户行为来获取用户的兴趣信息，采用用户行为数据的特征提取方法。

3.如权利要求1或2所述的一种融入本体情境的用户兴趣挖掘方法，其特征在于：所述步骤2)中，用户的行为信息包括用户搜索关键词、用户历史购买记录和用户历史浏览行为。

4.如权利要求1或2所述的一种融入本体情境的用户兴趣挖掘方法，其特征在于：所述步骤3)中，根据用户的兴趣情境信息，在构建用户本体情境中，将用户情境划分为用户个体情境、用户环境情境以及用户设备情境，。本体采用层次概念树的形式，用户情境的某一元素就是通过树中的每个节点来表示的，即构建情境本体树。