CN102685791B - 模拟用户行为的WAP业务用户感知体验QoE评测方法 - Google Patents
模拟用户行为的WAP业务用户感知体验QoE评测方法 Download PDFInfo
- Publication number
- CN102685791B CN102685791B CN201210160517.8A CN201210160517A CN102685791B CN 102685791 B CN102685791 B CN 102685791B CN 201210160517 A CN201210160517 A CN 201210160517A CN 102685791 B CN102685791 B CN 102685791B
- Authority
- CN
- China
- Prior art keywords
- kqi
- value
- wap
- business
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Mobile Radio Communication Systems (AREA)
Abstract
一种模拟用户行为的WAP业务用户感知体验QoE评测方法,是先设置一套分别包括网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数所组成的QoE测评指标体系,然后,利用测试终端模拟用户使用WAP业务的整个过程,分别采集与计算WAP业务的关键性能指标KPI,进而计算其相应的业务关键质量指标KQI,并利用心理模型对KQI进行综合运算,获得相应WAP业务关键体验指标KEI,获得等效于国际标准平均意见分值MOS的5分制WAP业务QoE值。本发明选用的测评参数标准客观、实用,操作步骤简单、计算复杂度低、容易实现和易于集成;能够模拟用户行为得到相对客观、公正的用户体验感知质量。
Description
技术领域
本发明涉及一种对无线应用协议WAP(Wireless Application Protocol)业务的用户体验感知QoE(Quality of Experience)的测评方法,确切地说,涉及一种使用客观方法模拟用户行为的WAP业务用户感知体验QoE的评测方法,属于移动通信网络业务质量评估的技术领域。
背景技术
随着通信网络技术的飞速发展,移动通信网络中的WAP应用越来越广泛,例如WAP网页的浏览、上传、下载与流媒体等等。时至今日,WAP应用已经成为移动网络中的主流应用之一。对于WAP业务质量好与坏的评价,用户和网络运营商有着不同的理解:因为用户更关心实际感受到的WAP业务质量,具体参数包括:页面的打开速度,页面是否能够完全打开,下载速度如何,也就是用户体验感知QoE的相关参数,然而网络运营商更注重网络侧的网元设备的服务质量QoS(Quality of Service)。显然,由于网络侧的性能参数并没有直接与用户体验感知相互关联,传统业务质量好坏的评测是基于网络侧的QoS参数(例如网络时延、抖动等),因此,其不能反映用户使用业务时的真实感知。这种情况下,业务运营商和网络运营商都无法根据用户的业务使用的真实体验来对网络参数进行实时调整,以改进业务质量和提升用户感知。所以,对于网络运营商来说,还需要建立一套真实、精准的WAP业务的用户体验质量客观评测方案,用于评测其业务性能及用户的感知体验情况,进而根据评测结果优化网络性能,以提高服务质量。
随着网络运营商对用户感知体验情况的日益重视,现在已经出现一些WAP业务质量评测方法的现有技术,下面介绍其具体状况:
有些业内公司提出了对WAP业务用户质量评测的解决方案。例如,文献《WAP业务性能分析模型及用户感知评级体系研究》(刊于《邮电设计技术》,2010,01)介绍了WAP业务性能优化方法及用户感知的评价体系,并对WAP业务应用过程中返回原因值进行了归类。文献《基于3G移动业务的用户体验映射体系研究》(刊于《移动通信》,2011年第3~4期)提出了两种QoS到QoE的映射体系及映射方法,其中一种是基于权重的QoS到QoE的映射,方法简单,但是应用环境较为单一,若场景或应用发生变化,结果很可能不够准确。另一种是QoS到QoE映射的智能模型,需要以大量的数据和经验值作为基础,准确度完全依赖于使用的映射方法,适应性不好。
国内科研院所也对WAP业务质量评价有所研究。文献《WAP业务用户行为模型分析》(刊于《信息与电脑》,2009年第9期),通过数据采集得到WAP用户的行为模型,与现有已知曲线吻合较好,成功建立了WAP业务的用户使用习惯模型。但是,其考虑的应用种类单一,实用性不强,有待进一步分析。另一文献《实现移动产品运行质量端到端量化分析的方法》(刊于《移动业务》,2011年第9期)对移动产品运行质量分析,通过关键质量指标的开发及分解、产品健康度量化取值两个阶段建立质量评估模型。然而,该方法中健康度量化仅通过简单的线性函数拟合,与实际的用户感知不太一致。
通过以上分析可以看出,目前的现有技术大多存在缺陷,或者仅考虑QoS参数,或者其应用范围不广,或者其模型较为简单,因此需要提出一种新的WAP业务的用户体验质量评测方法。
发明内容
有鉴于此,本发明的目的是提供一种模拟用户行为的WAP业务用户感知体验QoE评测方法,本发明是针对目前基于网络QoS参数的评测方法无法真实反映用户体验的缺陷,采用一种客观方法模拟并评测用户使用WAP业务的感知体验情况,分别从接入性、保持性和完整性三方面建立关键体验指标KEI(KeyExperience Indicator),并对这些指标进行综合分析,最终得到类似于国际标准平均意见值MOS(Mean Opinion Score)的5分制WAP业务QoE值。
为了达到上述发明目的,本发明提供了一种模拟用户行为的WAP业务用户感知体验QoE评测方法,其特征在于:先设置一套分别包括网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数所组成的QoE测评指标体系,然后,利用测试终端模拟用户使用WAP业务的整个过程,分别采集与计算WAP业务的关键性能指标KPI(KeyPerformance Indicator),进而计算其相应的业务关键质量指标KQI(Key QualityIndicator),并利用心理模型对KQI进行综合运算而获得相应的WAP业务关键体验指标KEI(Key Experience Indicator),然后对这些KEI指标进行综合分析,获得等效于国际标准平均意见分值MOS(Mean Opinion Score)的5分制WAP业务QoE值;所述方法包括下述操作步骤:
(1)测试终端采集和计算多次WAP业务每种应用的关键性能指标KPI参数,且每次模拟用户接入WAP业务后,多次使用WAP的网页浏览、文件上传或文件下载的三种应用过程;
(2)根据WAP业务QoE测评指标体系中的WAP业务三种应用中各自分别采集的关键性能指标KPI,逐步计算其业务关键质量指标KQI和利用心理模型对KQI进行综合运算,从而获得相应的关键体验指标KEI,最终获得模拟用户多次使用WAP业务的QoE值;该步骤进一步包括下列操作内容:
(21)利用测试终端采集到的WAP业务三种应用中的KPI分别计算其对应的各个KQI的下述测试参数:
接入时延:为接入GPRS时长;
接通率:为Attach状态与PDP激活状态的交集值为1的个数与其交集值不为-1的个数之比,其交集值的数值范围为{-1、0、1},其中,“-1”表示未发生接通行为,即Attach或PDP激活行为未发生,“0”表示Attach状态与PDP状态中至少有一个为0,“1”表示两个状态值均为1;
请求成功率:为DNS状态与TCP连接状态交集值为1的个数与其交集值不为-1的个数之比,其交集值的数值范围为{-1、0、1},其中,“-1”表示未发生请求行为,即DNS或TCP连接行为未发生,“0”表示DNS状态与TCP连接状态中至少有一个为0,“1”表示两个状态值均为1;
在线率:为承载网络状态数值为1的个数与测试总次数的比值;
传输完成率:为页面显示或文件上传/下载状态数值为1的个数与其数值不为-1的个数之比,其状态数值的范围为{-1、0、1},其中,“-1”表示未发生传输行为,“0”表示页面显示或文件上传/下载失败,“1”表示页面显示或文件上传/下载成功;
平均速率:为平均传输速率;
速率稳定度:为传输速率的标准差系数,用于表示单位平均传输速率的偏离度;其计算公式为:
信号稳定度:为信号电平标准差系数,用于表示单位信号电平均值的偏离度;其计算公式为:
信息完好率:即传输文件的完整率,为传输完成时的文件字长与完整文件字节长度之比;在一次接入、多次应用时,其数值为每次应用的信息完好率的均值;
(22)先将KQI指标分为两类:实测指标参数值越大、用户的感知体验性能越好的正向指标和实测指标参数值越大、用户的感知体验性能越差的反向指标;其中正向指标包括:接通状态、请求成功率、在线状态、传输完成率、平均速率和信号完好率,反向指标包括:接入时延、速率稳定度和信号稳定度;
再将每项KQI指标与其期望值进行比较,并按照满意度映射函数计算每个KQI的满意度值KQIMOS、即等效于其取值区间为[0,5]的MOS数值;
所述期望值是根据人的主观体验、并由评估者对于不同类型业务应用进行差异化设置的数值;所述满意度映射函数是根据人的主观体验模型,即取决于各项KQI实测值与其期望值之比而确定的下述两种S型分段曲线函数式:
正向指标满意度映射函数式为:
反向指标满意度映射函数式为: 式中,系数a取决于初始值,且a>0;系数b决定S型曲线变化率;变量KQI%为KQI实测值与其期望值之比;其中正向指标满意度映射函数式表示:当KQI值低于期望值而高于设定数值时,对人的主观体验性能影响小;当KQI值降低到该设定数值后仍继续下降,人的主观体验性能急剧下降;当KQI值继续降低到另一设定数值后再继续下降,人的主观体验性能变化平稳;反向指标满意度映射函数公式表示:当KQI值高于期望值而低于设定数值时,对人的主观体验性能影响小;当KQI值高于该设定数值后仍继续增高,人的主观体验性能急剧下降;当KQI值继续增高到另一设定数值后再继续增高,人的主观体验性能变化平稳;
(23)利用每个KQI的满意度值KQIMOS和层次分析法AHP,按照公式KEI=∑ωiKQIMOS,i计算其KEI;式中,系数ωi是由下标i区分的网页浏览、文件上传和文件下载三种应用的各自性能参数的各个KQI的权重,ωi均是利用AHP方法构造各项KQI相对重要性关系判断矩阵,再计算该判断矩阵的最大特征值与其对应的特征向量,并对该特征值进行一致性检验,且在满足一致性检验后,对该特征向量进行归一化处理后得到的特征向量,即各KQI对应的权重ωi;该KEI的取值区间为[0,5];
(24)按照下述公式加权计算用户使用WAP各业务的QoE值:
QoE=∑ωjKEIj=ω接入性KEI接入性+ω保持性KEI保持性+ω完整性KEI完整性;该步骤的操作与步骤(23)相同,也是利用AHP方法先构造KEI关系判断矩阵,再计算该判断矩阵的最大特征值与其对应的特征向量,最后分别得到业务接入、业务保持和业务完整的三个性能参数的权重;但是,当任意一个KEI数值为0时,则其对应的QoE即为0;
(3)在不同时间和/或不同地点分别执行步骤(2)的操作后,对获得的多次WAP业务的不同QoE值进行分析与统计,获得在设定时间和/或设定地区的WAP业务用户感知体验的质量状况。
所述WAP业务QoE测评指标体系中的网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数完全相同,其中业务接入性能参数设有3项:取决于接入通用分组无线业务GPRS时长的接入时延,取决于GPRS附着Attach结束状态和分组数据协议PDP激活结束状态的接通率,以及取决于域名解析DNS响应率的请求成功率;业务保持性能参数设有5项:取决于承载网络是否在线的在线率,取决于服务响应率的传输完成率,平均传输速率,取决于速率标准差的速率稳定度和取决于信号电平标准差的信号稳定度;业务完整性能参数设有1项;取决于传输文件完整率的信息完好率。
所述步骤(1)中,测试终端采集和计算的WAP业务三种应用的关键性能指标KPI包括下述各个参数:
接入通用分组无线业务GPRS(General Packet Radio Service)时长:为接入GPRS的结束时间与开始时间的差值,单位为秒(s);
GPRS附着(Attach)结束状态:所述附着是根据移动终端的签约数据,***确定是否允许移动终端在当前请求的区域中进行数据业务访问;若允许,即为附着成功,标明测试终端已经连接到GPRS,其数值为1,否则为0;
分组数据协议PDP(Packet Data Protocol)激活结束状态:所述激活是终端在传送数据前向***服务器申请IP地址资源和隧道标志,建立用户分组传输路由的过程;申请成功的数值为1,申请失败的数值为0;
域名解析DNS响应率:为DNS解析状态与TCP连接状态交集中数值为1的次数与测试次数的比值;
承载网络状态:为通信网络是否处于连接状态,网络在线时的数值为1,网络掉线时的数值为0;
服务响应率:为页面显示或文件上传/下载完成状态的数值为1的次数与测试次数的比值,页面成功打开或文件上传/下载完成时其数值为1,否则为0;
平均传输速率:为测试时间段内传输速率的均值,即显示页面的字节长度或上传/下载文件的字节长度与传输时长的比值,单位为KB/秒;
速率标准差:为测试时间段内速率的均方差,单位为KB/秒;
信号电平标准差:为测试时间段内信号电平的均方差,单位为dBm;
传输文件完整率:为衡量网页显示或文件上传/下载是否完整的指标,其数值为传输完成时的文件字节长度与完整文件的字节长度的比值。
所述期望值是根据人的主观体验、并由评估者对于不同类型业务应用进行差异化设置的数值;所述满意度映射函数是根据人的主观体验模型,即取决于各项KQI实测值与其期望值之比而确定的下述两种S型分段曲线函数式:
正向指标满意度映射函数式为:
反向指标满意度映射函数式为: 式中,系数a取决于初始值,且a>0;系数b决定S型曲线变化率;变量KQI%为KQI实测值与其期望值之比;其中正向指标满意度映射函数式表示:当KQI值低于期望值而高于设定数值时,对人的主观体验性能影响小;当KQI值降低到该设定数值后仍继续下降,人的主观体验性能急剧下降;当KQI值继续降低到另一设定数值后再继续下降,人的主观体验性能变化平稳;反向指标满意度映射函数公式表示:当KQI值高于期望值而低于设定数值时,对人的主观体验性能影响小;当KQI值高于该设定数值后仍继续增高,人的主观体验性能急剧下降;当KQI值继续增高到另一设定数值后再继续增高,人的主观体验性能变化平稳。
本发明模拟用户行为的WAP业务用户感知体验QoE的评测方法的优点是:该测评方法选用的参数标准客观、实用,操作步骤简单、容易实现;且该测评方法不需改变现有的移动通信网络的组成架构,只需用户使用测试终端在任意时间和/或任意地点进行WAP业务不同应用的评测,就可采集到所需的各种测评数据,再根据这些测评参数逐步计算KPI、KQI、KEI和QoE,就可以模拟用户行为得到最终用户相对客观、公正的的体验质量、测评结果。而且,本发明的全部操作过程完全模拟用户使用WAP业务的全部操作步骤,贴近业务的全部使用过程,包括一次接入网络,多次使用不同应用的各种过程。因此,本发明能够实时评测用户业务的感知体验水平,方便运营商据此对现网实现优化。总之,本发明方法的操作步骤简单、实用、计算复杂度低,还易于集成,且其应用广泛,具有较好的推广价值和应用前景。
附图说明
图1是本发明模拟用户行为的WAP业务用业户感知体验QoE评测方法操作步骤流程图。
图2是本发明方法中的WAP业务评测指标体系架构图。
图3(A)、(B)分别是本发明方法实施例中的KQI实测数值与其期望值之比值的正向KQI满意度值和反向KQI满意度值的变化趋势示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面结合附图和实施例对本发明作进一步的详细描述。
本发明是一种模拟用户行为的WAP业务用业户感知体验QoE评测方法:先设置一套分别包括网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数所组成的QoE测评指标体系,然后,利用测试终端模拟用户使用WAP业务的整个过程,分别采集与计算WAP业务的关键性能指标KPI,进而计算其相应的业务关键质量指标KQI,并利用心理模型对KQI进行综合运算而获得相应的WAP业务关键体验指标KEI,然后对这些KEI指标进行综合分析,获得等效于国际标准平均意见分值MOS的5分制WAP业务QoE值。
下面参见图1和图2,以WAP浏览为主要应用,同时也附带有WAP文件上传和WAP文件下载为实施例,说明本发明方法的三个具体操作步骤(需要说明的是:WAP文件上传和WAP文件下载的体验质量评测与WAP浏览基本相同,其区别只是略有差异的个别测试参数,其操作步骤完全相同):
步骤1:测试终端采集和计算用户一次WAP业务(包括多次使用)的KPI参数:首先新建WAP网页浏览测试任务,设置下述模拟用户浏览WAP网页行为的测试条件和参数:WAP连接超时的设定时长为30s,web url地址(实施例为http://wap.sina.com,或者也可浏览其他网页),本次接入访问url的次数3次,每次访问url的间隔时间30s、访问url的超时时间为30s、WAP断开连接的超时设定时长为30s、终端选择等,然后,存储并执行测试任务,终端完成3次WAP浏览为主的KPI测试数据的采集,如下表1所示。
URL访问次数 | 1 | 2 | 3 |
接入GPRS时长(s) | 0 | 0 | 0 |
Attach结束状态 | 1 | 1 | 1 |
PDP激活结束状态 | 1 | 1 | 1 |
信号电平均值(dBm) | -69 | -71 | -73 |
DNS响应率 | 1 | 1 | 1 |
承载网络状态 | 1 | 1 | 1 |
文件大小(KB) | 619 | 619 | 619 |
传输时长(s) | 49 | 61 | 71 |
下行平均速率(KB/s) | 12.63 | 10.05 | 8.72 |
传输完成率 | 1 | 1 | 1 |
页面下载百分比 | 100% | 100% | 100% |
步骤2:根据图2所示的WAP业务QoE测评指标体系中的WAP业务三种应用中各自分别采集的关键性能指标KPI,逐步计算其KQI和利用心理模型对KQI进行综合运算,从而获得相应的KEI,最终获得模拟用户一次使用WAP业务的QoE值。该步骤包括下述各个具体操作内容:
(21)利用测试终端采集到的WAP业务KPI如表1,分别计算下述各个KQI(参见表2):
KQI名称 | 单位 | 实测值 | 满意度值 |
接入时延 | 秒 | 0 | 5 |
接通率 | 无 | 1 | 5 |
请求成功率 | 无 | 1 | 5 |
在线率 | 无 | 1 | 5 |
传输完成率 | 无 | 1 | 5 |
平均速率 | KB/秒 | 10.5 | 2 |
速率稳定度 | 无 | 15.6% | 5 |
信号稳定度 | 无 | 2.3% | 5 |
信息完好率 | 百分比 | 1 | 5 |
(22)将KQI指标分为两类:一类是实测指标参数值越大、用户的感知体验性能越好的正向指标,另一类是实测指标参数越大、用户的感知体验性能越差的反向指标;其中正向指标设有:接通状态、请求成功率、在线状态、传输完成率、平均速率和信号完好率,反向指标设有:接入时延、速率稳定度和信号稳定度;
然后将每项KQI实测指标参数与其期望值进行比较,再按照满意度映射函数计算每个KQI的满意度值KQIMOS、该满意度值等效于位于[0,5]区间的MOS数值(如下表3所示);
本发明中的期望值是根据人的主观体验、并由评估者对于不同类型业务应用进行差异化设置的数值;满意度映射函数是根据人的主观体验模型,即取决于各项KQI实测值与其期望值之比而确定的下述两种S型分段曲线函数式:
正向指标满意度映射函数式为:
反向指标满意度映射函数式为: 式中,系数a取决于初始值,且a>0;系数b用于决定S型曲线变化率;变量KQI%为KQI实测值与其期望值之比;其中正向指标满意度映射函数式表示:当KQI值低于期望值而高于设定数值时,对人的主观体验性能影响小;当KQI值降低到该设定数值后仍继续下降,人的主观体验性能急剧下降;当KQI值继续降低到另一设定数值后再继续下降,人的主观体验性能变化平稳;反向指标满意度映射函数公式表示:当KQI值高于期望值而低于设定数值时,对人的主观体验性能影响较小;当KQI值高于该设定数值后仍继续增高,人的主观体验性能急剧下降;当KQI值继续增高到另一设定数值后再继续增高,人的主观体验性能变化平稳。
(23)利用每个KQI的满意度值KQIMOS和层次分析法AHP,按照公式KEI=∑ωiKQIMOS,i计算该WAP业务的KEI;式中,系数ωi是由下标i区分的网页浏览、文件上传和文件下载三种应用的各自性能参数的各KQI的权重因子,ωi均是利用AHP方法构造各项KQI相对重要性关系判断矩阵,并对特征值进行一致性检验,且在满足一致性检验后,对该特征向量进行归一化处理后得到的特征向量,就是各个KQI对应的权重ωi;计算得到的KEI的取值区间为[0,5]。
本发明实施例中,利用层次分析法AHP计算业务KEI的操作包括下述三个具体步骤:
A、利用AHP方法构造各项KQI相对重要性关系的判断矩阵:利用1-9之间的整数及其倒数作为标度,构造两两比较判断矩阵。本发明WAP业务的三个接入性KQI中的请求成功率、接入时延和接通状态的关系判断矩阵为:
B、利用1-9之间的整数及其倒数作为标度,构造两两比较的判断矩阵,计算得到上述判断矩阵的最大特征值为:3.0092,以及与其对应的特征向量为:(0.2565、0.4660、0.8468)。
C、最后对特征值进行一致性检验并对特征向量进行归一化处理。结果是计算结果满足一致性检验的条件,归一化后得到三个接入性KQI的请求成功率、接入时延、接通状态的权重分别为:0.16342、0.29696和0.53961。
按照同样方法,可以得到本次WAP网页浏览实施例中其他KQI对应的权重数值如下表4所示(因完整性KQI只有一个指标:信息完好度,故其权重为1):
(24)按照公式QoE=ω接入性KEI接入性+ω保持性KEI保持性+ω完整性KEI完整性加权计算用户使用WAP业务中的网页浏览QoE值:其中,权重ωi为以下KEI关系判断矩阵的最大特征值对应的特征向量。各KEI关系矩阵如下: 需要说明的是,该步骤操作与上述步骤(23)相同,也是利用AHP方法先构造KEI关系判断矩阵,再计算该各个判断矩阵的最大特征值与其对应的特征向量,最后分别得到业务接入、业务保持和业务完整的三个性能参数的权重;但是,当任意一个KEI数值为0时,其对应的QoE即为0。
本发明实施例经过计算得到:业务的接入性、保持性、完整性KEI关系判断矩阵的最大特征值为:3.0183,满足一致性检验,其对应的特征向量分别为:0.8650、0.3778和0.3301。进行归一化得到各个KEI的权重分别为0.54994、0.24021和0.20984。
步骤3:分别在不同时间和/或不同空间。即不同地点使用WAP业务,统计分析多次WAP业务的QoE评测值,得到某个设定时间内某地区的WAP业务体验质量状况。
下表5为2012年3月6日在银川市进行仿真测试的部分数据。表中的第一行是上述测试一次WAP业务的测试数据,其余各行则是在不同时间段对不同地区的WAP业务测试状况。
本发明方法已经进行了多次仿真实施试验,试验是成功的,试验的结果证明:利用本发明方法计算得到的5分制QoE值,与人在不同时段和/或不同地点使用WAP业务时的主观体验感受具有良好的一致吻合性,实现了发明的目的。
以上所述仅为本发明较佳的实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (3)
1.一种模拟用户行为的WAP业务用户感知体验QoE评测方法,其特征在于:先设置一套分别包括网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数所组成的QoE测评指标体系,然后,利用测试终端模拟用户使用WAP业务的整个过程,分别采集与计算WAP业务的关键性能指标KPI(Key Performance Indicator),进而计算其相应的业务关键质量指标KQI(Key Quality Indicator),并利用心理模型对KQI进行综合运算而获得相应的WAP业务关键体验指标KEI(Key ExperienceIndicator),然后对这些KEI指标进行综合分析,获得等效于国际标准平均意见分值MOS(Mean Opinion Score)的5分制WAP业务QoE值;所述方法包括下述操作步骤:
(1)测试终端采集和计算多次WAP业务每种应用的关键性能指标KPI参数,且每次模拟用户接入WAP业务后,多次使用WAP的网页浏览、文件上传或文件下载的三种应用过程;
(2)根据WAP业务QoE测评指标体系中的WAP业务三种应用中各自分别采集的关键性能指标KPI,逐步计算其业务关键质量指标KQI和利用心理模型对KQI进行综合运算,从而获得相应的关键体验指标KEI,最终获得模拟用户多次使用WAP业务的QoE值;该步骤进一步包括下列操作内容:
(21)利用测试终端采集到的WAP业务三种应用中的KPI分别计算其对应的各个KQI的下述测试参数:
接入时延:为接入GPRS时长;
接通率:为Attach状态与PDP激活状态的交集值为1的个数与其交集值不为-1的个数之比,其交集值的数值范围为{-1、0、1},其中,“-1”表示未发生接通行为,即Attach或PDP激活行为未发生,“0”表示Attach状态与PDP状态中至少有一个为0,“1”表示两个状态值均为1;
请求成功率:为DNS状态与TCP连接状态交集值为1的个数与其交集值不为-1的个数之比,其交集值的数值范围为{-1、0、1},其中,“-1”表示未发生请求行为,即DNS或TCP连接行为未发生,“0”表示DNS状态与TCP连接状态中至少有一个为0,“1”表示两个状态值均为1;
在线率:为承载网络状态数值为1的个数与测试总次数的比值;
传输完成率:为页面显示或文件上传/下载状态数值为1的个数与其数值不为-1的个数之比,其状态数值的范围为{-1、0、1},其中,“-1”表示未发生传输行为,“0”表示页面显示或文件上传/下载失败,“1”表示页面显示或文件上传/下载成功;
平均速率:为平均传输速率;
速率稳定度:为传输速率的标准差系数,用于表示单位平均传输速率的偏离度;其计算公式为:
信号稳定度:为信号电平标准差系数,用于表示单位信号电平均值的偏离度;其计算公式为:
信息完好率:即传输文件的完整率,为传输完成时的文件字长与完整文件字节长度之比;在一次接入、多次应用时,其数值为每次应用的信息完好率的均值;
(22)先将KQI指标分为两类:实测指标参数值越大、用户的感知体验性能越好的正向指标和实测指标参数值越大、用户的感知体验性能越差的反向指标;其中正向指标包括:接通状态、请求成功率、在线状态、传输完成率、平均速率和信号完好率,反向指标包括:接入时延、速率稳定度和信号稳定度;
再将每项KQI指标与其期望值进行比较,并按照满意度映射函数计算每个KQI的满意度值KQIMOS、即等效于其取值区间为[0,5]的MOS数值;
所述期望值是根据人的主观体验、并由评估者对于不同类型业务应用进行差异化设置的数值;所述满意度映射函数是根据人的主观体验模型,即取决于各项KQI实测值与其期望值之比而确定的下述两种S型分段曲线函数式:
正向指标满意度映射函数式为:
反向指标满意度映射函数式为: 式中,系数a取决于初始值,且a>0;系数b决定S型曲线变化率;变量KQI%为KQI实测值与其期望值之比;其中正向指标满意度映射函数式表示:当KQI值低于期望值而高于设定数值时,对人的主观体验性能影响小;当KQI值降低到该设定数值后仍继续下降,人的主观体验性能急剧下降;当KQI值继续降低到另一设定数值后再继续下降,人的主观体验性能变化平稳;反向指标满意度映射函数公式表示:当KQI值高于期望值而低于设定数值时,对人的主观体验性能影响小;当KQI值高于该设定数值后仍继续增高,人的主观体验性能急剧下降;当KQI值继续增高到另一设定数值后再继续增高,人的主观体验性能变化平稳;
(23)利用每个KQI的满意度值KQIMOS和层次分析法AHP,按照公式KEI=∑ωiKQIMOS,i计算其KEI;式中,系数ωi是由下标i区分的网页浏览、文件上传和文件下载三种应用的各自性能参数的各个KQI的权重,ωi均是利用AHP方法构造各项KQI相对重要性关系判断矩阵,再计算该判断矩阵的最大特征值与其对应的特征向量,并对该特征值进行一致性检验,且在满足一致性检验后,对该特征向量进行归一化处理后得到的特征向量,即各KQI对应的权重ωi;该KEI的取值区间为[0,5];
(24)按照下述公式加权计算用户使用WAP各业务的QoE值:
QoE=∑ωjKEI j=ω接入性KEI接入性+ω保持性KEI保持性+ω完整性KEI完整性;该步骤的操作与步骤(23)相同,也是利用AHP方法先构造KEI关系判断矩阵,再计算该判断矩阵的最大特征值与其对应的特征向量,最后分别得到业务接入、业务保持和业务完整的三个性能参数的权重;但是,当任意一个KEI数值为0时,则其对应的QoE即为0;
(3)在不同时间和/或不同地点分别执行步骤(2)的操作后,对获得的多次WAP业务的不同QoE值进行分析与统计,获得在设定时间和/或设定地区的WAP业务用户感知体验的质量状况。
2.根据权利要求1所述的评测方法,其特征在于:所述WAP业务QoE测评指标体系中的网页浏览、文件上传和文件下载三种应用的WAP业务各自的业务接入、业务保持和业务完整三方面体验性能参数完全相同,其中业务接入性能参数设有3项:取决于接入通用分组无线业务GPRS时长的接入时延,取决于GPRS附着Attach结束状态和分组数据协议PDP激活结束状态的接通率,以及取决于域名解析DNS响应率的请求成功率;业务保持性能参数设有5项:取决于承载网络是否在线的在线率,取决于服务响应率的传输完成率,平均传输速率,取决于速率标准差的速率稳定度和取决于信号电平标准差的信号稳定度;业务完整性能参数设有1项:取决于传输文件完整率的信息完好率。
3.根据权利要求1所述的方法,其特征在于:所述步骤(1)中,测试终端采集和计算的WAP业务三种应用的关键性能指标KPI包括下述各个参数:
接入通用分组无线业务GPRS时长:为接入GPRS的结束时间与开始时间的差值,单位为秒(s);
GPRS附着(Attach)结束状态:所述附着是根据移动终端的签约数据,***确定是否允许移动终端在当前请求的区域中进行数据业务访问;若允许,即为附着成功,标明测试终端已经连接到GPRS,其数值为1,否则为0;
分组数据协议PDP激活结束状态:所述激活是终端在传送数据前向***服务器申请IP地址资源和隧道标志,建立用户分组传输路由的过程;申请成功的数值为1,申请失败的数值为0;
域名解析DNS响应率:为DNS解析状态与TCP连接状态交集中数值为1的次数与测试次数的比值;
承载网络状态:为通信网络是否处于连接状态,网络在线时的数值为1,网络掉线时的数值为0;
服务响应率:为页面显示或文件上传/下载完成状态的数值为1的次数与测试次数的比值,页面成功打开或文件上传/下载完成时,其数值为1,否则为0;
平均传输速率:为测试时间段内传输速率的均值,即显示页面的字节长度或上传/下载文件的字节长度与传输时长的比值,单位为KB/秒;
速率标准差:为测试时间段内速率的均方差,单位为KB/秒;
信号电平标准差:为测试时间段内信号电平的均方差,单位为dBm;
传输文件完整率:为衡量网页显示或文件上传/下载是否完整的指标,其数值为传输完成时的文件字节长度与完整文件的字节长度的比值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210160517.8A CN102685791B (zh) | 2012-05-22 | 2012-05-22 | 模拟用户行为的WAP业务用户感知体验QoE评测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210160517.8A CN102685791B (zh) | 2012-05-22 | 2012-05-22 | 模拟用户行为的WAP业务用户感知体验QoE评测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102685791A CN102685791A (zh) | 2012-09-19 |
CN102685791B true CN102685791B (zh) | 2014-09-10 |
Family
ID=46817016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210160517.8A Expired - Fee Related CN102685791B (zh) | 2012-05-22 | 2012-05-22 | 模拟用户行为的WAP业务用户感知体验QoE评测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102685791B (zh) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102984727A (zh) * | 2012-11-02 | 2013-03-20 | 王攀 | 一种gprs环境下基于信令分析的移动互联网用户空口占用时长推算方法 |
CN104301161B (zh) * | 2013-07-17 | 2018-05-18 | 华为技术有限公司 | 业务质量指标的计算方法、计算装置以及通信*** |
CN104349337B (zh) * | 2013-07-24 | 2018-02-23 | ***通信集团广东有限公司 | 小区上网速度的获取方法、装置以及计算方法与装置 |
CN103678544B (zh) * | 2013-12-03 | 2016-09-07 | 中国科学院计算技术研究所 | Http主动测量中仿真真实用户负载的方法及*** |
CN103716826B (zh) * | 2013-12-05 | 2017-04-12 | 同济大学 | 基于无线数据业务仿真场景的用户体验质量测试方法 |
CN103729437B (zh) * | 2013-12-27 | 2017-09-19 | 上海华为技术有限公司 | 一种网页评估的方法及装置 |
CN103840977B (zh) * | 2014-03-04 | 2017-10-20 | 中国联合网络通信集团有限公司 | 一种互联网业务服务质量测评方法及客户端 |
CN103944779B (zh) * | 2014-03-31 | 2018-01-30 | ***(深圳)有限公司 | 一种wap业务性能监测方法及*** |
CN105050125B (zh) * | 2015-06-23 | 2019-01-29 | 武汉虹信通信技术有限责任公司 | 一种面向用户体验的移动数据业务质量评测方法及装置 |
CN105357691B (zh) * | 2015-09-28 | 2019-04-16 | 普天信息工程设计服务有限公司 | Lte无线网络用户感知监测方法和*** |
CN105472641B (zh) * | 2015-11-17 | 2018-08-28 | 重庆邮电大学 | 基于3D-Markov链的IEEE802.11ad网络用户QoE优化方法 |
CN107026750B (zh) * | 2016-02-02 | 2020-05-26 | ***通信集团广东有限公司 | 一种用户上网QoE评价方法及装置 |
CN107645393A (zh) * | 2016-07-20 | 2018-01-30 | 中兴通讯股份有限公司 | 确定黑盒***输入输出关联度的方法、装置以及*** |
CN106899448B (zh) * | 2017-01-22 | 2019-06-28 | 中国人民解放军信息工程大学 | 适用于网络状态及性能测量的一体化动态赋权评估方法 |
CN107483576B (zh) * | 2017-08-12 | 2020-09-18 | 厦门多米诺数据科技有限公司 | 一种对Android APP进行远程控制的***及方法 |
CN110401551B (zh) * | 2018-04-24 | 2022-05-13 | ***通信集团广东有限公司 | 基于s1接口的互联网健康度评估方法及*** |
CN108710614A (zh) * | 2018-05-31 | 2018-10-26 | 校宝在线(杭州)科技股份有限公司 | 一种基于用户行为的作文评测方法 |
CN109728945B (zh) * | 2018-12-25 | 2021-12-28 | 中电福富信息科技有限公司 | 一种基于宽带关键质量指标的异常阈值判定方法 |
CN109857959A (zh) * | 2019-01-04 | 2019-06-07 | 北京字节跳动网络技术有限公司 | 第三方网页可访问性优劣评价方法、装置及电子设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101064900A (zh) * | 2007-04-27 | 2007-10-31 | 杭州东信北邮信息技术有限公司 | 将关键性能指标映射到关键质量指标的通用处理方法 |
CN101577631A (zh) * | 2008-05-07 | 2009-11-11 | 华为技术有限公司 | 评价用户体验质量的方法、***及网络装置 |
-
2012
- 2012-05-22 CN CN201210160517.8A patent/CN102685791B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101064900A (zh) * | 2007-04-27 | 2007-10-31 | 杭州东信北邮信息技术有限公司 | 将关键性能指标映射到关键质量指标的通用处理方法 |
CN101577631A (zh) * | 2008-05-07 | 2009-11-11 | 华为技术有限公司 | 评价用户体验质量的方法、***及网络装置 |
Non-Patent Citations (2)
Title |
---|
《移动通信网络质量评估模型及移动流媒体QoS的研究》;王丹;《中国优秀硕士学位论文全文数据库 信息科技辑》;20110315;第19页-31页 * |
王丹.《移动通信网络质量评估模型及移动流媒体QoS的研究》.《中国优秀硕士学位论文全文数据库 信息科技辑》.2011, |
Also Published As
Publication number | Publication date |
---|---|
CN102685791A (zh) | 2012-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102685791B (zh) | 模拟用户行为的WAP业务用户感知体验QoE评测方法 | |
CN102685790B (zh) | 模拟用户行为的移动流媒体业务感知体验QoE的测评方法 | |
US9992092B2 (en) | Network resource monitoring and measurement system and method | |
CN104378220A (zh) | 评价用户体验质量的方法及装置、用户终端、网络服务器 | |
WO2016101464A1 (zh) | 用户体验质量QoE评估方法、装置、终端及服务器 | |
CN105050125A (zh) | 一种面向用户体验的移动数据业务质量评测方法及装置 | |
CN105357691A (zh) | Lte无线网络用户感知监测方法和*** | |
CN102904773B (zh) | 一种网络业务质量的测量方法和装置 | |
CN102480529A (zh) | 实现广域网负载均衡的域名解析方法及域名解析服务器 | |
CN102945263B (zh) | 一种用于确定多个访问对象之间的访问相关性信息的方法 | |
EP2919416B1 (en) | Method and system for evaluating quality of experience of communication service users | |
CN104994133A (zh) | 一种基于网络KPI的移动Web网页访问用户体验感知评测方法 | |
CN110163654B (zh) | 一种广告投放数据追踪方法和*** | |
CN103152599A (zh) | 基于有序回归的移动视频业务用户体验质量评估方法 | |
Zhang et al. | A QoE test system for vehicular voice cloud services | |
CN107071399A (zh) | 一种加密视频流的质量评估方法及装置 | |
CN102904755A (zh) | 一种移动互联网业务用户体验质量测量方法和装置 | |
CN105828376A (zh) | 基于用户感知的业务质量监测方法和设备 | |
CN105264907A (zh) | 移动视频业务的体验质量预测方法及基站 | |
CN116781563A (zh) | 一种网页服务细粒度的评估装置、评估方法和评估*** | |
CN106487906A (zh) | 一种情境感知的移动Web应用协议切换方法 | |
CN105794175A (zh) | 输送web内容的***的性能度量 | |
CN103870452A (zh) | 数据推荐方法及*** | |
CN102711061B (zh) | 模拟用户行为的彩信业务用户感知体验QoE的测评方法 | |
CN106789283A (zh) | 一种互联网业务质量感知分析*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140910 Termination date: 20150522 |
|
EXPY | Termination of patent right or utility model |