CN107733705B - 一种用户体验质量评估模型建立方法及设备 - Google Patents
一种用户体验质量评估模型建立方法及设备 Download PDFInfo
- Publication number
- CN107733705B CN107733705B CN201710933787.0A CN201710933787A CN107733705B CN 107733705 B CN107733705 B CN 107733705B CN 201710933787 A CN201710933787 A CN 201710933787A CN 107733705 B CN107733705 B CN 107733705B
- Authority
- CN
- China
- Prior art keywords
- data sample
- training data
- user experience
- sample set
- application service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明公开了一种用户体验质量评估模型建立方法及设备,用于对企业级的WLAN的用户体验质量进行评估。该方法包括:获取训练数据样本集,训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型;无线参数包括AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;根据每一种应用业务的二分类模型得到用户体验质量评估模型。
Description
技术领域
本发明涉及通信技术领域,特别涉及一种用户体验质量评估模型建立方法及设备。
背景技术
目前,企业级的无线局域网(Wireless Local Area Network,WLAN)广泛应用于商场、企业、医院、学校等场所的网络构建,其中,企业级的WLAN包括的无线控制器(WirelessAccess Point Controller,AC)、无线接入点(Access Point,AP)数量众多。在这些场所中,需要达到的最优效果是让用户在WLAN覆盖范围内的每个位置的用户体验质量(QoE,Quality of Experience,QoE)都较为良好,因此在WLAN网络部署之后需要实时的评估每个用户使用无线网(Wireless-FIdelity)的用户体验质量,进而对网络部署进行进一步的优化。
其中,影响用户体验质量的因素主要包括三部分,即业务的原始质量、数据传输网络质量、用户设备对业务的呈现能力。其中,业务的原始质量是指业务提供商所提供业务的质量,例如业务为视频服务时,则该原始质量则是指视频的清晰度,例如可以分为高清、超清、蓝光超清等等;数据传输网络质量则是在业务进行过程中传输网络的质量,例如移动运营商的网络的质量;用户设备对业务的呈现能力则是指用户设备的性能高低。
由于用户使用的用户设备的类型众多,例如可以为手机、IPAD以及个人计算机(personal computer,PC)等,而相对应的,每一类型的用户设备还可以进一步的包括各个品牌类型,同时,用户体验的业务类型种类众多,例如可以为网络电话(Voice overInternet Protocol,VoIP)、视频通话、手机电视、***等,且在企业级的WLAN中AP数量庞大,且部署较为密集,因此通过用户反馈结合人工运行维护这样的方式显然是不太现实的。目前,对于用户体验质量的评估方法主要包括针对具体的业务场景的用户体验质量评估方法,以及针对运营商有线网络环境或者运营商移动网络的用户体验质量评估方法。例如移动视频质量评估方法,但这种方法仅适用于特定的某一种业务场景,而对于其他的业务并不适用;或者,针对运营商有线网络环境或者运营商移动网络的用户体验质量评估方法,但由于运营商有线网络环境或者运营商移动网络与企业级的WLAN的部署方式的不同,因此这种用户体验质量评估方法也不适用于企业级的WLAN。可见,如何对企业级的WLAN的用户体验质量进行实时的评估,进而根据评估结果对企业级的WLAN进行改进优化,是目前亟待解决的技术问题。
发明内容
本发明实施例提供一种用户体验质量评估模型建立方法及设备,用于对企业级的WLAN的用户体验质量进行准确的评估。
第一方面,提供一种用户体验质量评估模型建立方法,该方法包括:
获取训练数据样本集,所述训练数据样本集包括至少一个训练数据样本,且所述训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集;
根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,所述每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;所述无线参数包括所述AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
根据每一种应用业务的二分类模型得到所述用户体验质量评估模型。
可选的,根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集,包括:
对所述训练数据样本集进行标准化处理,使得所述训练数据样本集中所有数据的量纲统一;
根据应用业务的优先级从所述训练数据样本集中确定每一种应用业务的训练数据样本集;所述应用业务的优先级根据所述应用业务所需的网络质量设置;
根据所述训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签的相关性,选择出每个训练数据样本中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
可选的,所述根据应用业务的优先级从所述训练数据样本中确定每一种应用业务的训练数据样本集,包括:
将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至所述第一应用业务的正训练数据样本集中,以及将优先级低于所述第一应用业务的其他应用业务的负训练数据样本添加至所述第一应用业务的负训练数据样本集中;添加后的正训练数据样本集和负训练数据样本集构成所述第一应用业务的训练数据样本集;其中,所述正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,以及所述负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据。
可选的,所述每一种应用业务需要采用的算法模型为通过k-折叠交叉算法从预先存储的算法模型集中确定的错误率最低的算法模型。
可选的,根据每一种应用业务的二分类模型得到所述用户体验质量评估模型,包括:
根据应用业务的优先级将所述每一种应用业务的二分类模型进行组合,以得到所述用户体验质量评估模型。
可选的,在将每一种应用业务的二分类模型进行融合,以获得用户体验质量评估模型之后,所述方法还包括:
获取更新数据样本集,所述更新数据样本集包括至少一个更新数据样本,且所述更新数据样本集包括在AP运行过程中上传的AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;其中,一个更新数据样本包括至少一个无线通信参数和至少一个无线环境参数;
计算所述更新数据样本集中任意一个更新数据样本与所述训练数据样本集中每一个训练数据样本的相似度,将所述训练数据样本集中相似度最高的训练数据样本的用户体验质量标签作为所述任意一个更新数据样本的用户体验质量标签,以得到携带用户体验质量标签的更新数据样本集;
根据所述携带用户体验质量标签的更新数据样本集对所述用户体验质量评估模型进行更新。
可选的,所述方法还包括:
接收用户设备发送的用户体验质量差的反馈消息;
确定所述用户体验质量评估模型是否检测到所述反馈消息对应的网络故障;
若确定所述用户体验质量评估模型未检测到所述反馈消息对应的网络故障,则获取所述反馈消息对应的运行数据;
根据所述运行数据对所述用户体验质量评估模型进行矫正。
可选的,在根据每一种应用业务的二分类模型得到所述用户体验质量评估模型之后,所述方法还包括:
获取第一用户设备在进行网络体验时的当前网络参数数据,所述网络参数数据包括AP与所述第一用户设备进行通信时的当前无线通信参数以及AP的当前无线环境参数;
根据所述当前网络参数数据及所述用户体验质量评估模型,确定所述第一用户设备的当前用户体验质量。
可选的,在根据所述网络参数数据通过用户体验质量评估模型确定所述用户设备在进行网络体验时的用户体验质量之后,所述方法还包括:
当确定结果表明所述第一用户设备的当前用户体验质量差时,通过所述用户体验质量评估模型计算所述当前网络参数数据中每个网络参数数据的权重;所述权重为所述当前网络参数数据中每个网络参数数据对所述确定结果的影响程度;
根据计算的每个网络参数数据的权重确定造成所述第一用户设备的用户体验质量差的原因。
第二方面,提供一种用户体验质量评估模型建立设备,该设备包括:
第一数据获取单元,用于获取训练数据样本集,所述训练数据样本集包括至少一个训练数据样本,且所述训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
第一数据处理单元,用于根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集;
模型建立单元,用于根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,所述每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;所述无线参数包括所述AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
所述模型建立单元还用于,根据每一种应用业务的二分类模型得到所述用户体验质量评估模型。
可选的,所述第一数据处理单元根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集,包括:
对所述训练数据样本集进行标准化处理,使得所述训练数据样本集中所有数据的量纲统一;
根据应用业务的优先级从所述训练数据样本集中确定每一种应用业务的训练数据样本集;所述应用业务的优先级根据所述应用业务所需的网络质量设置;
根据所述训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签的相关性,选择出每个训练数据样本中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
可选的,所述第一数据处理单元根据应用业务的优先级从所述训练数据样本中确定每一种应用业务的训练数据样本集,包括:
将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至所述第一应用业务的正训练数据样本集中,以及将优先级低于所述第一应用业务的其他应用业务的负训练数据样本添加至所述第一应用业务的负训练数据样本集中;添加后的正训练数据样本集和负训练数据样本集构成所述第一应用业务的训练数据样本集;其中,所述正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,以及所述负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据。
可选的,所述每一种应用业务需要采用的算法模型为所述第一数据处理单元通过k-折叠交叉算法从预先存储的算法模型集中确定的错误率最低的算法模型。
可选的,所述模型建立单元根据每一种应用业务的二分类模型得到所述用户体验质量评估模型,包括:
所述模型建立单元根据应用业务的优先级将所述每一种应用业务的二分类模型进行组合,以得到所述用户体验质量评估模型。
可选的,所述设备还包括第一模型更新单元;
所述数据获取单元还用于,获取更新数据样本集,所述更新数据样本集包括至少一个更新数据样本,且所述更新数据样本集包括在AP运行过程中上传的AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;其中,一个更新数据样本包括至少一个无线通信参数和至少一个无线环境参数;
所述第一数据处理单元还用于,计算所述更新数据样本集中任意一个更新数据样本与所述训练数据样本集中每一个训练数据样本的相似度,将所述训练数据样本集中相似度最高的训练数据样本的用户体验质量标签作为所述任意一个更新数据样本的用户体验质量标签,以得到携带用户体验质量标签的更新数据样本集;
所述第一模型更新单元用于根据所述携带用户体验质量标签的更新数据样本集对所述用户体验质量评估模型进行更新。
可选的,所述设备还包括第二模型更新单元;
所述数据获取单元还用于,接收用户设备发送的用户体验质量差的反馈消息;
所述第一数据处理单元还用于,确定所述用户体验质量评估模型是否检测到所述反馈消息对应的网络故障;若确定所述用户体验质量评估模型未检测到所述反馈消息对应的网络故障,则获取所述反馈消息对应的运行数据;
所述第二模型更新单元用于,根据所述运行数据对所述用户体验质量评估模型进行矫正。
可选的,包括:
第二数据获取单元,用于获取第一用户设备在进行网络体验时的当前网络参数数据,所述网络参数数据包括AP与所述第一用户设备进行通信时的当前无线通信参数以及AP的当前无线环境参数;
评估单元,用于根据所述当前网络参数数据及所述用户体验质量评估模型,确定所述第一用户设备的当前用户体验质量。
可选的,所述设备还包括第二数据处理单元;
所述第二数据处理单元用于,当确定结果表明所述第一用户设备的当前用户体验质量差时,通过所述用户体验质量评估模型计算所述当前网络参数数据中每个网络参数数据的权重;所述权重为所述当前网络参数数据中每个网络参数数据对所述确定结果的影响程度;根据计算的每个网络参数数据的权重确定造成所述第一用户设备的用户体验质量差的原因。
第三方面,提供一种计算机装置,所述装置包括处理器,所述处理器用于执行存储器中存储的计算机程序时实现如第一方面提供的用户体验质量评估模型建立方法和第二方面提供的用户体验质量评估方法任一项所述方法的步骤。
第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面提供的用户体验质量评估模型建立方法和第二方面提供的用户体验质量评估方法任一项所述方法的步骤。
在本发明实施例中,用于建立评估模型的训练样本数据不仅包括用户在进行网络体验时的AP的运行参数和AP与用户设备的交互参数,还包括用户的真实的体验质量标签,这样,建立的评估模型则并不只是通过获取的网络服务参数,即AP的运行参数和AP与用户设备的交互参数来预测的用户的使用体验质量,而是更接近用户的真实体验感受,则评估的结果更为准确。同时,在本发明实施例中,采集训练样本数据可以包括多种用户设备以及多种应用业务在不同环境下的用户体验参数数据,即考虑了多种用户设备或者多种应用业务之间造成的用户体验质量的偏差,使得本发明的评估并不仅限于一种用户设备或者一种具体的应用业务,进而适用范围更广。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,显而易见地,下面所介绍的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的用户体验质量评估模型建立方法的流程示意图;
图2为本发明实施例提供的用户体验质量评估模型的一种层次结构示意图;
图3为本发明实施例提供的用户体验质量评估模型建立设备的一种结构示意图;
图4为本发明实施例提供的计算机装置的一种结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。
下面介绍本发明实施例的技术背景。
目前,对于用户体验质量的评估方法主要包括针对具体的业务场景的用户体验质量评估方法,以及针对运营商有线网络环境或者运营商移动网络的用户体验质量评估方法。其中,针对具体的业务场景的用户体验质量评估方法是指针对某一具体业务进行评估,例如移动视频质量评估方法,但这种方法仅适用于特定的某一种业务场景,而对于其他的业务并不适用;而针对运营商有线网络环境或者运营商移动网络的用户体验质量评估方法,由于运营商有线网络环境或者运营商移动网络与企业级的WLAN的部署方式的不同,因此这种用户体验质量评估方法也不适用于企业级的WLAN。可见,如何对企业级的WLAN的用户体验质量进行准确的评估,进而根据评估结果对企业级的WLAN进行改进优化,是目前亟待解决的技术问题。
鉴于此,本发明实施例提供一种用户体验质量评估方法,在该方法中,用于建立评估模型的训练样本数据不仅包括用户在进行网络体验时的AP的运行参数和AP与用户设备的交互参数,还包括用户的真实的体验质量标签,这样,建立的评估模型则并不只是通过获取的网络服务参数,即AP的运行参数和AP与用户设备的交互参数来预测的用户的使用体验质量,而是更接近用户的真实体验感受,则评估的结果更为准确。同时,在本发明实施例中,采集训练样本数据可以包括多种用户设备以及多种应用业务在不同环境下的用户体验参数数据,即考虑了多种用户设备或者多种应用业务之间造成的用户体验质量的偏差,使得本发明的评估并不仅限于一种用户设备或者一种具体的应用业务,进而适用范围更广。
下面结合附图介绍本发明实施例提供的技术方案。
请参见图1,本发明一实施例提供一种用户体验质量评估模型建立方法,该方法可以通过本发明实施例提供的用户体验质量评估模型建立设备来执行,该用户体验质量评估模型建立设备可以通过PC、服务器或者运维人员的监控平台等来实现,该方法包括:
步骤101:获取训练数据样本集,训练数据样本集包括至少一个训练数据样本,且训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
步骤102:根据训练数据样本集获得每一种应用业务对应的训练数据样本集;
步骤103:根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;无线参数包括AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
步骤104:根据每一种应用业务的二分类模型得到用户体验质量评估模型。
本发明实施例中,首先是要获取用于建立评估模型的训练数据样本集。具体的,训练数据样本集是由多个训练数据样本组成的,且训练数据样本集主要包括三部分的数据,即用于表征用户体验质量好或者差的用户体验质量标签、AP与用户设备进行通信时的无线通信参数数据以AP的无线环境参数,其中,每一个训练数据样本都包括这三部分的数据。
本发明实施例中,可以选择市场上比较常见的用户设备和应用业务来进行训练数据样本的采集,例如用户设备可以为主流厂商的手机、IPAD、PC或者物联网设备等,应用业务可以为微信、VOIP、高清视频、网页浏览等,当然,也可以是其他可能的用户设备或者应用业务,本发明在此不做限制。
在选择了数据采集所需的用户设备和应用业务之后,则可以通过选择的用户设备和应用业务在WLAN覆盖范围内的多个AP的不同位置进行使用体验,进而采集在使用体验过程中的用户体验质量标签。其中,用户体验质量标签表征在使用该WLAN网络时的真实体验,在进行在采集用户体验质量标签时,可以接收采集人员对WLAN网络进行体验的评价,即使用体验为好或者差。同时,在采集用户体验质量标签时,为了避免采集人员主观性的判断导致的误差,还可以根据应用业务的不同设置体验参数标准,用于帮助判断用户体验质量的好与差。例如,当应用业务具体为高清视频时,则可以根据视频卡顿次数、视频缓冲速度、视频下载速度设置体验参数标准,当视频卡顿次数过多或者视频下载速度较慢,且此时的采集人员提交的主观感受为差时,则可以确定此时的用户体验质量差,则相对应的用户体验质量标签则为0;若是视频观看流畅,视频下载速度也较快,且此时的采集人员提交的主观感受为好时,则可以确定此时的用户体验质量好,则相对应的用户体验质量标签则为1。当然,在体验参数标准与用户的差异很大时,还可以根据实际情况进行判断,例如当检测的视频下载速度很慢,但是视频观看却一直很流畅,这时就可以按照用户的主观判断为准,即此时的用户体验质量好。
在采集用户体验质量标签的同时,AP还会上报此时AP的无线环境参数以及AP与用户设备进行通信时的无线通信参数,这里的AP的无线环境参数以及AP与用户设备进行通信时的无线通信参数是与上述采集的用户体验质量标签相对应的,从某一角度来讲,上述采集的用户体验质量标签则可以是这些参数的标签。其中,上述采集的用户体验质量标签可以是采集人员在一段时间内的使用体验,那么这段时间内该采集人员所连接的AP上传的与该采集人员进行通信时的无线通信参数和AP的无线环境参数的标签即为这段时间内接收的采集人员的用户体验质量标签,也就是说,无线通信参数和无线环境参数是可以和用户体验质量标签一一绑定的,那么则可以在AP上传无线通信参数和无线环境参数也一并将用户体验质量标签一起上传,也可以是从服务器端获取无线通信参数和无线环境参数后,再根据时间和AP的位置等与用户体验质量标签进行对应。
具体的,AP的无线环境参数可以包括信噪比、信道利用率、无线干扰率等的一种或多种;AP与用户设备进行通信时的无线通信参数可以包括时延、丢包率、接收信号强度RSSI、上行速率和下行速率、无线报文重传率、无线报文有效率、上下行流量等的一种或者多种,当然,还可以包括其他可能的参数,本发明实施例对此不做限制。其中,AP会将上述的参数上报给AC,AC再将这些参数发送给服务器端进行处理与存储。
在获取训练数据样本集之后,则可以根据训练数据样本集建立用户体验质量标签与AP与用户设备进行通信时的无线通信参数和AP的无线环境参数映射的用户体验质量评估模型。
本发明实施例中,训练数据样本集包括采集的大量的训练数据样本,因此首先可以对该训练数据样本集进行预处理。
具体的,训练数据样本集中的其中每一个训练数据样本都包括用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数这三部分的数据,由于AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数还进一步的可能包括多种类型的数据,但每一个数据的量纲可能都是不同的,例如时延的量纲为毫秒(ms)或者秒(s),而上行速率的量纲则为比特/秒(bits per second,bps),量纲的不同使得不同的数据不能放在同一层面上来进行比较,因此为了后续数据能够统一的对待和处理,首先还可以去除所有数据的量纲。具体的,可以通过z分数(z-score)对训练数据样本集进行标准化处理,使得训练数据样本集中所有数据的量纲统一,当然也可以通过其他标准化的方法统一量纲,本发明对此不做限制。其中,由于z-score标准化的方法为本领域技术人员所公知的标准化方法,因此这个过程属于现有技术的范畴,在此不再赘述。
由于网络传输或者数据采集等原因,在获取的训练数据样本集中可能存在某些数据缺失的样本数据,例如某一个样本数据中的AP的无线环境参数中的一个或者多个参数数据缺失,这样的样本数据是无法进行使用的,需要从训练数据样本集中去除,因此可以在进行统一量纲的操作的同时或者在其之后,去除存在数据缺失问题的样本数据。
本发明实施例中,由于用户所使用的用户设备种类繁多,无法针对用户设备类型来评估用户体验质量,并且用户设备最终还需通过应用业务的方式来进行网络体验,因此这种针对用户设备类型进行评估,相对于针对不同的应用业务类型进行评估来讲,实际意义不大。因此,在对数据进行预处理之后,则可以按照应用业务的不同对训练数据样本集进行划分,以得到不同应用业务对应的训练数据样本集。
为了使得每一种应用业务的样本数据更加丰富,可以将用于采集训练数据样本的应用业务划分为不同的优先级,并根据优先级将不同应用业务的训练数据样本进行处理。
其中,优先级的高低与体验该种应用业务时所需的网络质量有关,例如可以为体验该种应用业务所需的网络质量越高,则该应用业务的优先级越高,优先级的划分可以按照经验或者实验结果来进行划分。例如,若是应用业务包括高清视频、网页浏览、微信以及VOIP,那么根据大量实验结果可以知道,在高清视频的用户体验质量为好的时候,其他应用业务的用户体验质量也皆为好,但其他应用业务的用户体验质量为好时,高清视频的用户体验质量却不一定为好,因此高清视频所需要的网络质量是高于其他应用业务的,即高清视频的优先级最高。根据大量实验结果得到的优先级从高到低的顺序依次为高清视频、VOIP、网页浏览、微信。
具体实施例中,训练数据样本可被分为正训练数据样本和及负训练数据样本,其中,正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,例如用户体验质量标签为1时训练数据样本;以及负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据,如用户体验质量标签为0时训练数据样本。在确定每一个应用对应的训练数据样本集时,具体以第一应用业务为例进行描述。具体的,可以将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至第一应用业务原本采集到的正训练数据样本集中,得到第一应用业务对应的正训练数据样本集;以及将优先级低于第一应用业务的其他应用业务的负训练数据样本添加至第一应用业务原本采集到的负训练数据样本集中,得到第一应用业务对应的负训练数据样本集,这样由添加后的正训练数据样本集和负训练数据样本集既可以组成第一应用业务的训练数据样本集。
例如当第一应用业务为VOIP时,由于VOIP的优先级低于高清视频,当高清视频的用户体验质量标签为1,即用户体验质量好的时候,则VOIP的用户体验质量通常也为好,因此高清视频的正训练数据样本也可以作为VOIP的正训练数据样本,即可以将高清视频的正训练数据样本添加到VOIP的正训练数据样本集中;由于VOIP的优先级高于网页浏览或者微信,当网页浏览或者微信的用户体验质量标签为0,即用户体验质量差的时候,则VOIP的用户体验质量通常也为差,因此网页浏览或者微信的负训练数据样本也可以作为VOIP的负训练数据样本,即可以将网页浏览或者微信的负训练数据样本添加到VOIP的负训练数据样本集中。
本发明实施例中,由于在每一种应用业务的训练数据样本集中,并不是所有的数据都对用户体验质量起到决定性因素,即对用户体验质量的影响程度较大的数据只包括主要的几个数据,因此在获取每一种应用业务的训练数据样本集之后,每一种应用业务的训练数据样本集都包括正训练数据样本和负训练数据样本,还可以根据训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签相关性,选择出每个样本数据中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
具体的,可以通过主成分分析法(Principal Components Analysis,PCA)计算每一个数据与用户体验质量的相关性,再筛选出其中预定数量的相关性值较大的数据作为特征数据,特征数据即是该应用业务中对用户体验质量起到决定性因素的主要数据,这里的预定数量则可以根据实际情况进行设置,或者根据测试结果选择测试结果最优的数量,例如可以设置为8;而其他与用户体验质量相关性较小的数据则可以删除,以避免信息冗余,并且影响最终结果的准确性。
本发明实施例中,在获取每一种应用业务最终的训练数据样本集之后,则可以根据获取的每一种应用业务最终的训练数据样本集建立用户体验质量评估模型。
具体的,可以从预存储的算法模型集合中选择适合每一种应用业务的算法模型,进而针对每一种应用业务建立一种算法模型。其中,预存储的算法模型集合中具体可以包括多种机器学***均作为该种算法模型的最终错误率,在所有算法模型的最终错误率计算完成后,选择其中错误率最低的算法模型作为相应的应用业务的算法模型。
在每一种应用业务需要采用的算法模型确定后,则可以根据每一种应用业务的训练数据样本集和确定的算法模型建立每一种应用业务的二分类算法模型,这里所说的二分类算法模型是指每一种应用业务所建立的模型最终都用于进行二分类,即用于确定用户体验质量为好还是为差。
本发明实施例中,在每一种应用业务的二分类算法模型建立成功后,则可以根据应用业务之间的优先级关系将所有应用业务的二分类算法模型进行组合,以得到最终的用户体验质量评估模型。具体的,根据不同的应用业务的优先级关系,将优先级最低的应用业务的二分类算法模型置在最底层,而往上则按照优先级排序从低到高的方式将不同应用业务的二分类算法模型进行排序。例如图2所示,为一种用户体验质量评估模型的层次结构示意图,其中,按照优先级的顺序各个应用业务的算法模型层级关系依次为高清视频的二分类算法模型、VOIP的二分类算法模型、网页浏览的二分类算法模型、微信的二分类算法模型。当需要通过建立的用户体验质量评估模型来确定用户体验质量时,则从最底层的微信的二分类算法模型开始进行确定,若是微信的二分类算法模型确定用户体验质量为好,则继续上一层的确定,直至某一层确定的用户体验质量为差或者层数最高的应用业务的二分类算法模型为止,例如当确定到VOIP的二分类算法模型时,该应用业务的用户体验质量为差时,则说明优先级低于VOIP的应用业务的用户体验质量皆为好;或者当确定到高清视频的二分类算法模型时,该应用业务的用户体验质量仍然为好,则说明所有应用业务的用户体验质量皆为好。
本发明实施例中,由于在用于建立用户体验质量评估模型的训练数据样本仅仅只包括市场上主流用户设备和应用业务的样本数据,而实际还存在着其他类型的用户设备和应用业务,为了提高用户体验质量评估模型的兼容性,因此还需对用户体验质量评估模型进行进一步的优化更新。
本发明实施例中,还可以获取更新数据样本集,以对用户体验质量评估模型进行进一步的优化更新。
本发明实施例中,在AP的实际运行过程中,会不停的向AC上报运行数据,AC则会将这些运行数据上传至服务器端,因此可以通过服务器端获取更新数据样本集。但是,由于获取的更新数据样本集是AP的平常运行时的数据,只包括AP上传的运行数据,即AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,而此时并没有包括采集人员的体验感受,也就是说并不包括用户体验质量标签,那么获取更新数据样本集包括的更新数据样本都是没有标签的,不能直接用于对这些数据用户体验质量评估模型进行进一步的优化更新,因此,在获取更新数据样本集之后,可以结合半监督学习算法将无标签的更新数据样本集转化为有标签的更新数据样本集。
具体的,在获取更新数据样本集之后,可以选择出其中的特征数据,这个特征数据可以是上述通过PCA算法确定出的特征数据,再将更新数据样本集中的更新数据样本与之前获取的训练数据样本的特征数据进行对比,进行计算两者之间的相似度,再将与训练数据样本中相似度最高的训练数据样本的用户体验质量标签作为相应的无标签的更新数据样本的标签,这样,就可以将无标签的更新数据样本转化为有标签的更新数据样本,从而得到有标签的更新数据样本集。
在获取有标签的更新数据样本集之后,则可以根据有标签的更新数据样本集对建立的用户体验质量评估模型进行优化更新。具体的,可以通过结合获得的有标签的更新数据样本集以及采集的训练数据样本集对建立的用户体验质量评估模型进行优化更新。
本发明实施例中,为了保证建立的用户体验质量评估模型的准确性,在用户体验质量评估模型投入使用之前,都需要对该模型进行验证,若是验证时发现准确度低,还需要找到原因对模型进行修复。具体的,对用户体验质量评估模型进行验证的方法可以包括但不限于以下两种方法:
(1)通过采集的新的训练数据样本对用户体验质量评估模型进行验证。具体的,将采集的新的训练数据样本中的无线参数数据作为输入,输出则为输入的无线参数数据对应的用户体验质量,而用户体验质量标签作为判断数据,即将输出的用户体验质量与实际采集的用户体验质量标签进行比对,进而确定用户体验质量评估模型是否正确,在进行多次验证之后,计算多次验证的正确率,判断准确率是否达到预定的正确率,若是达到,则可以说明该用户体验质量评估模型正确率较高,可以投入实际使用。
(2)通过从服务器获取用户实际进行网络体验时AP上报的数据,再进行抽样评估,将抽取的数据样本通过用户体验质量评估模型进行确定相应的用户体验质量,再获取抽取的样本数据对应的用户的实际用户体验质量,将模型确定的用户体验质量与用户的实际用户体验质量进行对比,进而验证用户体验质量评估模型的准确性。
本发明实施例中,在实际的用户体验质量评估过程中,当用户在实际进行网络体验时,可能存在用户体验质量差的情况,此时用户则可以对该情况进行反馈。相应的,在接收到用户的反馈消息之后,则可以确定用户体验质量评估模型是否检测到该用户的反馈消息对应的网络故障,若是检测到,则不会做出反应;但是若用户体验质量评估模型未检测到该网络故障,则说明当前的用户体验质量评估模型尚不完善,则可以获取该反馈消息所反馈的网络故障时的运行数据,进而根据该运行数据对用户体验质量评估模型进行矫正,以使得用户体验质量评估模型更加准确。
本发明实施例中,当用户体验质量评估模型验证多次确定准确性达到可以投入实际使用的标准之后,则可以将该用户体验质量评估模型实际用于用户体验质量评估。
本发明实施例中,当第一用户设备通过企业级的WLAN进行网络体验时,则可以获取第一用户设备在进行网络体验时的当前网络参数数据,该当前网络参数数据可以包括AP与用户设备进行通信时的当前无线通信参数以及AP的无线环境参数。具体的,可以从与第一用户设备进行通信的AP获取当前网络参数数据;或者从管理这个AP的AC获取当前网络参数数据;或者从服务器端获取当前网络参数数据。
当获取用户体验质量评估模型和获取当前网络参数数据之后,则可以根据用户体验质量评估模型和当前网络参数数据确定当前网络参数数据对应的用户体验质量。具体的,将获取的当前网络参数数据输入用户体验质量评估模型,从最底层的应用业务的二分类算法模型开始进行确定,若是最底层的应用业务的二分类算法模型确定用户体验质量为好,则继续上一层的确定,直至某一层确定的用户体验质量为差或者层数最高的应用业务的二分类算法模型为止,例如图2所示的当确定到VOIP的二分类算法模型时,则会从最底层的微信的二分类算法模型开始进行确定,若是微信的二分类算法模型确定用户体验质量为好,则继续上一层的确定,直至某一层确定的用户体验质量为差或者层数最高的应用业务的二分类算法模型为止,例如当确定到VOIP的二分类算法模型时,该应用业务的用户体验质量为差时,则说明优先级低于VOIP的应用业务的用户体验质量皆为好;或者当确定到高清视频的二分类算法模型时,该应用业务的用户体验质量仍然为好,则说明所有应用业务的用户体验质量皆为好。
本发明实施例中,在用户体验质量评估模型的确定结果表明第一用户设备此时的用户体验质量为差时,则可以通过用户体验质量评估模型计算用于获取该确定结果的当前网络参数数据中每个网络参数数据的权重,这里的权重则是指用每个网络参数数据对确定结果的影响程度,也就是说在同一时刻,每一个网络参数数据对用户的用户体验质量都是有影响的。例如,当网络下载速度较慢时,用户观看视频可能不流畅;或者时延较高时,可能也会造成用户观看视频不流畅,但是在同一时刻每个网络参数数据使得产生用户体验质量差的影响程度不同,因此,当确定用户体验质量差时,则可以通过用户体验质量评估模型计算每个网络参数数据的影响程度,进而确定出影响程度最大的网络参数数据,该网络参数数据则是造成用户体验质量差的主要原因。进而还可以根据该网络参数数据进一步分析出该网络参数数据对应的实际原因,例如无线环境干扰严重、AP覆盖不足、终端性能差、AP功率不合理等实际原因中的一种或者多种,这样,就可以帮助后台运行维护人员快速的找到造成用户体验质量差的原因,进而快速针对该原因对网络进行修复,进而提升用户体验质量。
综上所述,在本发明实施例中,用于建立评估模型的训练样本数据不仅包括用户在进行网络体验时的AP的运行参数和AP与用户设备的交互参数,还包括用户的真实的体验质量标签,这样,建立的评估模型则并不只是通过获取的网络服务参数,即AP的运行参数和AP与用户设备的交互参数来预测的用户的使用体验质量,而是更接近用户的真实体验感受,则评估的结果更为准确。同时,在本发明实施例中,采集训练样本数据可以包括多种用户设备以及多种应用业务在不同环境下的用户体验参数数据,即考虑了多种用户设备或者多种应用业务之间造成的用户体验质量的偏差,使得本发明的评估并不仅限于一种用户设备或者一种具体的应用业务,进而适用范围更广。
下面结合附图介绍本发明实施例提供的设备。
请参见图3,基于图1所示的实施例的同一发明构思,本发明一实施例提供一种用户体验质量评估模型建立设备30,该设备包括:
第一数据获取单元301,用于获取训练数据样本集,训练数据样本集包括至少一个训练数据样本,且训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
第一数据处理单元302,用于根据训练数据样本集获得每一种应用业务对应的训练数据样本集;
模型建立单元303,用于根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;无线参数包括AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
模型建立单元303还用于,根据每一种应用业务的二分类模型得到用户体验质量评估模型。
可选的,第一数据处理单元302根据训练数据样本集获得每一种应用业务对应的训练数据样本集,包括:
对训练数据样本集进行标准化处理,使得训练数据样本集中所有数据的量纲统一;
根据应用业务的优先级从训练数据样本集中确定每一种应用业务的训练数据样本集;应用业务的优先级根据应用业务所需的网络质量设置;
根据训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签的相关性,选择出每个训练数据样本中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
可选的,第一数据处理单元302根据应用业务的优先级从训练数据样本中确定每一种应用业务的训练数据样本集,包括:
将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至第一应用业务的正训练数据样本集中,以及将优先级低于第一应用业务的其他应用业务的负训练数据样本添加至第一应用业务的负训练数据样本集中;添加后的正训练数据样本集和负训练数据样本集构成第一应用业务的训练数据样本集;其中,正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,以及负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据。
可选的,每一种应用业务需要采用的算法模型为第一数据处理单元302通过k-折叠交叉算法从预先存储的算法模型集中确定的错误率最低的算法模型。
可选的,模型建立单元303根据每一种应用业务的二分类模型得到用户体验质量评估模型,包括:
模型建立单元303根据应用业务的优先级将每一种应用业务的二分类模型进行组合,以得到用户体验质量评估模型。
可选的,设备还包括第一模型更新单元304;
数据获取单元还用于,获取更新数据样本集,更新数据样本集包括至少一个更新数据样本,且更新数据样本集包括在AP运行过程中上传的AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;其中,一个更新数据样本包括至少一个无线通信参数和至少一个无线环境参数;
第一数据处理单元302还用于,计算更新数据样本集中任意一个更新数据样本与训练数据样本集中每一个训练数据样本的相似度,将训练数据样本集中相似度最高的训练数据样本的用户体验质量标签作为任意一个更新数据样本的用户体验质量标签,以得到携带用户体验质量标签的更新数据样本集;
第一模型更新单元304用于根据携带用户体验质量标签的更新数据样本集对用户体验质量评估模型进行更新。
可选的,设备还包括第二模型更新单元305;
数据获取单元还用于,接收用户设备发送的用户体验质量差的反馈消息;
第一数据处理单元302还用于,确定用户体验质量评估模型是否检测到反馈消息对应的网络故障;若确定用户体验质量评估模型未检测到反馈消息对应的网络故障,则获取反馈消息对应的运行数据;
第二模型更新单元305用于,根据运行数据对用户体验质量评估模型进行矫正。
可选的,包括:
第二数据获取单元306,用于获取第一用户设备在进行网络体验时的当前网络参数数据,网络参数数据包括AP与第一用户设备进行通信时的当前无线通信参数以及AP的当前无线环境参数;
评估单元307,用于根据当前网络参数数据及用户体验质量评估模型,确定第一用户设备的当前用户体验质量。
可选的,设备还包括第二数据处理单元308;
第二数据处理单元308用于,当确定结果表明第一用户设备的当前用户体验质量差时,通过用户体验质量评估模型计算当前网络参数数据中每个网络参数数据的权重;权重为当前网络参数数据中每个网络参数数据对确定结果的影响程度;根据计算的每个网络参数数据的权重确定造成第一用户设备的用户体验质量差的原因。
该设备可以用于执行图2所示的实施例所提供的方法,因此,对于该设备的各功能模块所能够实现的功能等可参考图2所示的实施例的描述,不多赘述。其中,由于单元304~单元308不是必选的功能模块,因此在图3中以虚线示出。
请参见图4,本发明一实施例还提供一种计算机装置,该计算机装置包括处理器401,处理器401用于执行存储器中存储的计算机程序时实现本发明实施例提供的用户体验质量评估模型建立方法和用户体验质量评估方法的步骤。
可选的,处理器401具体可以是中央处理器、特定应用集成电路(英文:Application Specific Integrated Circuit,简称:ASIC),可以是一个或多个用于控制程序执行的集成电路,可以是使用现场可编程门阵列(英文:Field Programmable GateArray,简称:FPGA)开发的硬件电路,可以是基带处理器。
可选的,处理器401可以包括至少一个处理核心。
可选的,该计算机装置还包括存储器402,存储器402可以包括只读存储器(英文:Read Only Memory,简称:ROM)、随机存取存储器(英文:Random Access Memory,简称:RAM)和磁盘存储器。存储器402用于存储处理器401运行时所需的数据。存储器402的数量为一个或多个。其中,存储器402在图4中一并示出,但需要知道的是存储器402不是必选的功能模块,因此在图4中以虚线示出。
本发明一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如本发明实施例提供的用户体验质量评估模型建立方法和用户体验质量评估方法的步骤。
在本发明实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性或其它的形式。
在本发明实施例中的各功能单元可以集成在一个处理单元中,或者各个单元也可以均是独立的物理模块。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备,例如可以是个人计算机,服务器,或者网络设备等,或处理器(processor)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:通用串行总线闪存盘(Universal Serial Bus flash drive)、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以对本申请的技术方案进行了详细介绍,但以上实施例的说明只是用于帮助理解本发明实施例的方法,不应理解为对本发明实施例的限制。本技术领域的技术人员可轻易想到的变化或替换,都应涵盖在本发明实施例的保护范围之内。
Claims (20)
1.一种用户体验质量评估模型建立方法,其特征在于,包括:
获取训练数据样本集,所述训练数据样本集包括至少一个训练数据样本,且所述训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个接入点AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集;
根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,所述每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;所述无线参数包括所述AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
根据每一种应用业务的二分类模型得到所述用户体验质量评估模型。
2.如权利要求1所述的方法,其特征在于,根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集,包括:
对所述训练数据样本集进行标准化处理,使得所述训练数据样本集中所有数据的量纲统一;
根据应用业务的优先级从所述训练数据样本集中确定每一种应用业务的训练数据样本集;所述应用业务的优先级根据所述应用业务所需的网络质量设置;
根据所述训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签的相关性,选择出每个训练数据样本中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
3.如权利要求2所述的方法,其特征在于,所述根据应用业务的优先级从所述训练数据样本中确定每一种应用业务的训练数据样本集,包括:
将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至所述第一应用业务的正训练数据样本集中,以及将优先级低于所述第一应用业务的其他应用业务的负训练数据样本添加至所述第一应用业务的负训练数据样本集中;添加后的正训练数据样本集和负训练数据样本集构成所述第一应用业务的训练数据样本集;其中,所述正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,以及所述负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据。
4.如权利要求1所述的方法,其特征在于,所述每一种应用业务需要采用的算法模型为通过k-折叠交叉算法从预先存储的算法模型集中确定的错误率最低的算法模型。
5.如权利要求1所述的方法,其特征在于,根据每一种应用业务的二分类模型得到所述用户体验质量评估模型,包括:
根据应用业务的优先级将所述每一种应用业务的二分类模型进行组合,以得到所述用户体验质量评估模型。
6.如权利要求5所述的方法,其特征在于,在将每一种应用业务的二分类模型进行组合,以获得用户体验质量评估模型之后,所述方法还包括:
获取更新数据样本集,所述更新数据样本集包括至少一个更新数据样本,且所述更新数据样本集包括在AP运行过程中上传的AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;其中,一个更新数据样本包括至少一个无线通信参数和至少一个无线环境参数;
计算所述更新数据样本集中任意一个更新数据样本与所述训练数据样本集中每一个训练数据样本的相似度,将所述训练数据样本集中相似度最高的训练数据样本的用户体验质量标签作为所述任意一个更新数据样本的用户体验质量标签,以得到携带用户体验质量标签的更新数据样本集;
根据所述携带用户体验质量标签的更新数据样本集对所述用户体验质量评估模型进行更新。
7.如权利要求1所述的方法,其特征在于,所述方法还包括:
接收用户设备发送的用户体验质量差的反馈消息;
确定所述用户体验质量评估模型是否检测到所述反馈消息对应的网络故障;
若确定所述用户体验质量评估模型未检测到所述反馈消息对应的网络故障,则获取所述反馈消息对应的运行数据;
根据所述运行数据对所述用户体验质量评估模型进行矫正。
8.如权利要求1~7任一所述的方法,其特征在于,在根据每一种应用业务的二分类模型得到所述用户体验质量评估模型之后,所述方法还包括:
获取第一用户设备在进行网络体验时的当前网络参数数据,所述网络参数数据包括AP与所述第一用户设备进行通信时的当前无线通信参数以及AP的当前无线环境参数;
根据所述当前网络参数数据及所述用户体验质量评估模型,确定所述第一用户设备的当前用户体验质量。
9.如权利要求8所述的方法,其特征在于,在根据所述网络参数数据通过用户体验质量评估模型确定所述用户设备在进行网络体验时的用户体验质量之后,所述方法还包括:
当确定结果表明所述第一用户设备的当前用户体验质量差时,通过所述用户体验质量评估模型计算所述当前网络参数数据中每个网络参数数据的权重;所述权重为所述当前网络参数数据中每个网络参数数据对所述确定结果的影响程度;
根据计算的每个网络参数数据的权重确定造成所述第一用户设备的用户体验质量差的原因。
10.一种用户体验质量评估模型建立设备,其特征在于,包括:
第一数据获取单元,用于获取训练数据样本集,所述训练数据样本集包括至少一个训练数据样本,且所述训练数据样本集包括通过不同类型的用户设备中的不同种类的应用业务在WLAN覆盖范围内的多个接入点AP不同位置进行网络体验时的用户体验质量标签、AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数,其中,一个训练数据样本包括一个用户体验质量标签、至少一个无线通信参数和至少一个无线环境参数;
第一数据处理单元,用于根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集;
模型建立单元,用于根据每一种应用业务对应的训练数据样本集和每一种应用业务需要采用的算法模型,建立每一种应用业务的二分类模型,所述每一种应用业务的二分类模型为用于表征无线参数与用户体验质量间映射关系的模型;所述无线参数包括所述AP与用户设备进行通信时的无线通信参数和/或AP的无线环境参数;
所述模型建立单元还用于,根据每一种应用业务的二分类模型得到所述用户体验质量评估模型。
11.如权利要求10所述的设备,其特征在于,所述第一数据处理单元根据所述训练数据样本集获得每一种应用业务对应的训练数据样本集,包括:
对所述训练数据样本集进行标准化处理,使得所述训练数据样本集中所有数据的量纲统一;
根据应用业务的优先级从所述训练数据样本集中确定每一种应用业务的训练数据样本集;所述应用业务的优先级根据所述应用业务所需的网络质量设置;
根据所述训练数据样本集包括的每个训练数据样本中的数据与用户体验质量标签的相关性,选择出每个训练数据样本中的预定数量的数据,以得到每一种应用业务最终的训练数据样本集。
12.如权利要求11所述的设备,其特征在于,所述第一数据处理单元根据应用业务的优先级从所述训练数据样本中确定每一种应用业务的训练数据样本集,包括:
将优先级高于第一应用业务的其他应用业务的正训练数据样本添加至所述第一应用业务的正训练数据样本集中,以及将优先级低于所述第一应用业务的其他应用业务的负训练数据样本添加至所述第一应用业务的负训练数据样本集中;添加后的正训练数据样本集和负训练数据样本集构成所述第一应用业务的训练数据样本集;其中,所述正训练数据样本为用户体验质量标签表征用户对网络体验的满意程度大于或等于预设满意程度阈值时的数据,以及所述负训练数据样本为用户体验质量标签表征用户对网络体验的满意程度小于预设满意程度阈值时的数据。
13.如权利要求10所述的设备,其特征在于,所述每一种应用业务需要采用的算法模型为所述第一数据处理单元通过k-折叠交叉算法从预先存储的算法模型集中确定的错误率最低的算法模型。
14.如权利要求10所述的设备,其特征在于,所述模型建立单元根据每一种应用业务的二分类模型得到所述用户体验质量评估模型,包括:
所述模型建立单元根据应用业务的优先级将所述每一种应用业务的二分类模型进行组合,以得到所述用户体验质量评估模型。
15.如权利要求10所述的设备,其特征在于,所述设备还包括第一模型更新单元;
所述第一数据获取单元还用于,获取更新数据样本集,所述更新数据样本集包括至少一个更新数据样本,且所述更新数据样本集包括在AP运行过程中上传的AP与用户设备进行通信时的无线通信参数以及AP的无线环境参数;其中,一个更新数据样本包括至少一个无线通信参数和至少一个无线环境参数;
所述第一数据处理单元还用于,计算所述更新数据样本集中任意一个更新数据样本与所述训练数据样本集中每一个训练数据样本的相似度,将所述训练数据样本集中相似度最高的训练数据样本的用户体验质量标签作为所述任意一个更新数据样本的用户体验质量标签,以得到携带用户体验质量标签的更新数据样本集;
所述第一模型更新单元用于根据所述携带用户体验质量标签的更新数据样本集对所述用户体验质量评估模型进行更新。
16.如权利要求10所述的设备,其特征在于,所述设备还包括第二模型更新单元;
所述第一数据获取单元还用于,接收用户设备发送的用户体验质量差的反馈消息;
所述第一数据处理单元还用于,确定所述用户体验质量评估模型是否检测到所述反馈消息对应的网络故障;若确定所述用户体验质量评估模型未检测到所述反馈消息对应的网络故障,则获取所述反馈消息对应的运行数据;
所述第二模型更新单元用于,根据所述运行数据对所述用户体验质量评估模型进行矫正。
17.如权利要求10~16任一所述的设备,其特征在于,所述设备还包括:
第二数据获取单元,用于获取第一用户设备在进行网络体验时的当前网络参数数据,所述网络参数数据包括AP与所述第一用户设备进行通信时的当前无线通信参数以及AP的当前无线环境参数;
评估单元,用于根据所述当前网络参数数据及所述用户体验质量评估模型,确定所述第一用户设备的当前用户体验质量。
18.如权利要求17所述的设备,其特征在于,所述设备还包括第二数据处理单元;
所述第二数据处理单元,用于当确定结果表明所述第一用户设备的当前用户体验质量差时,通过所述用户体验质量评估模型计算所述当前网络参数数据中每个网络参数数据的权重;所述权重为所述当前网络参数数据中每个网络参数数据对所述确定结果的影响程度;根据计算的每个网络参数数据的权重确定造成所述第一用户设备的用户体验质量差的原因。
19.一种计算机装置,其特征在于,所述装置包括处理器,所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-9中任一项所述方法的步骤。
20.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1-9中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710933787.0A CN107733705B (zh) | 2017-10-10 | 2017-10-10 | 一种用户体验质量评估模型建立方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710933787.0A CN107733705B (zh) | 2017-10-10 | 2017-10-10 | 一种用户体验质量评估模型建立方法及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107733705A CN107733705A (zh) | 2018-02-23 |
CN107733705B true CN107733705B (zh) | 2021-01-15 |
Family
ID=61208622
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710933787.0A Active CN107733705B (zh) | 2017-10-10 | 2017-10-10 | 一种用户体验质量评估模型建立方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107733705B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108550054B (zh) * | 2018-04-12 | 2022-10-14 | 百度在线网络技术(北京)有限公司 | 一种内容质量评估方法、装置、设备和介质 |
CN109598285A (zh) * | 2018-10-24 | 2019-04-09 | 阿里巴巴集团控股有限公司 | 一种模型的处理方法、装置及设备 |
CN109451300A (zh) * | 2018-11-12 | 2019-03-08 | 中国联合网络通信集团有限公司 | 视频质量分数的确定方法和装置 |
CN109905696B (zh) * | 2019-01-09 | 2020-12-01 | 浙江大学 | 一种基于加密流量数据的视频服务体验质量的识别方法 |
CN109934627A (zh) * | 2019-03-05 | 2019-06-25 | 中国联合网络通信集团有限公司 | 建立满意度预测模型的方法及装置 |
CN110335058B (zh) * | 2019-04-30 | 2021-09-14 | 中国联合网络通信集团有限公司 | 一种用户满意度预测模型的样本生成方法及装置 |
CN110083542B (zh) * | 2019-05-06 | 2023-11-07 | 百度在线网络技术(北京)有限公司 | 一种推荐***中模型测试方法、装置及电子设备 |
CN112383828B (zh) * | 2019-12-12 | 2023-04-25 | 致讯科技(天津)有限公司 | 一种具有类脑特性的体验质量预测方法、设备及*** |
CN111339748B (zh) * | 2020-02-17 | 2023-11-17 | 北京声智科技有限公司 | 一种解析模型的评估方法、装置、设备和介质 |
CN113676341B (zh) | 2020-05-15 | 2022-10-04 | 华为技术有限公司 | 一种质差评估方法及相关设备 |
CN114389723B (zh) * | 2020-10-16 | 2023-09-26 | 展讯通信(上海)有限公司 | 通信方法、装置及设备 |
CN112469071A (zh) * | 2020-11-16 | 2021-03-09 | 成都渊数科技有限责任公司 | 一种WiFi网络质量评估方法及*** |
CN112636976B (zh) * | 2020-12-23 | 2022-11-22 | 武汉船舶通信研究所(中国船舶重工集团公司第七二二研究所) | 业务质量确定方法、装置、电子设备和存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102143507A (zh) * | 2010-11-23 | 2011-08-03 | 北京中创信测科技股份有限公司 | 一种业务质量监测方法、***、以及分析方法和*** |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103856959B (zh) * | 2012-11-30 | 2018-09-21 | 华为技术有限公司 | 无线局域网络质量监控方法、设备和*** |
US8964595B2 (en) * | 2013-06-11 | 2015-02-24 | Seven Networks, Inc. | Quality of experience enhancement for wireless networks based on received signal strength at a mobile device |
CN105264907B (zh) * | 2013-12-30 | 2018-08-21 | 华为技术有限公司 | 移动视频业务的体验质量预测方法及基站 |
WO2015144211A1 (en) * | 2014-03-25 | 2015-10-01 | Telefonaktiebolaget L M Ericsson (Publ) | Method and system for monitoring qoe |
CN104702666B (zh) * | 2015-01-30 | 2019-05-28 | 北京邮电大学 | 用户体验质量确定方法及*** |
US10454989B2 (en) * | 2016-02-19 | 2019-10-22 | Verizon Patent And Licensing Inc. | Application quality of experience evaluator for enhancing subjective quality of experience |
EP3226472A1 (en) * | 2016-04-01 | 2017-10-04 | Thomson Licensing | Method for predicting a level of qoe of an application intended to be run on a wireless user equipment |
CN106230624A (zh) * | 2016-07-25 | 2016-12-14 | 中国联合网络通信集团有限公司 | 一种网络质量评估方法及装置 |
CN107087160A (zh) * | 2017-04-28 | 2017-08-22 | 南京邮电大学 | 一种基于BP‑Adaboost神经网络的用户体验质量的预测方法 |
-
2017
- 2017-10-10 CN CN201710933787.0A patent/CN107733705B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102143507A (zh) * | 2010-11-23 | 2011-08-03 | 北京中创信测科技股份有限公司 | 一种业务质量监测方法、***、以及分析方法和*** |
Also Published As
Publication number | Publication date |
---|---|
CN107733705A (zh) | 2018-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107733705B (zh) | 一种用户体验质量评估模型建立方法及设备 | |
US10339456B2 (en) | Machine learning-based troubleshooting of VoLTE calls | |
CN110831029B (zh) | 一种模型的优化方法和分析网元 | |
US20190312791A1 (en) | Method and system for automating assessment of network quality of experience | |
WO2021207269A1 (en) | Systems and methods for remote collaboration | |
EP3136650B1 (en) | Method and system for optimizing network parameters to improve customer satisfaction of network content | |
CN108900333A (zh) | 一种无线网络质量的评估方法及评估装置 | |
CN108899082A (zh) | 维修服务管理方法、***、终端及计算机可读存储介质 | |
CN103259699B (zh) | 测试方法、***及客户端和服务端 | |
Siris et al. | Mobile quality of experience: Recent advances and challenges | |
CN107943697A (zh) | 问题分配方法、装置、***、服务器和计算机存储介质 | |
CN111629452A (zh) | 一种数据传输控制方法、装置、存储介质及电子设备 | |
Anchuen et al. | QOE model in cellular networks based on QOS measurements using Neural Network approach | |
JP6526835B2 (ja) | シグナリングセット又はコールの分析及び分類 | |
CN113678494A (zh) | 用于提供网络体验测试的方法及器件 | |
WO2018192414A1 (zh) | QoE的确定方法、装置、存储介质及处理器 | |
EP4329358A1 (en) | Network slice self-optimization method, base station, and storage medium | |
WO2021052556A1 (en) | A device for applying artificial intelligence in a communication network | |
Qiao et al. | Trace-driven optimization on bitrate adaptation for mobile video streaming | |
US20190205749A1 (en) | Optimizing wireless networks by predicting application performance with separate neural network models | |
CN114253728B (zh) | 基于网页生态的异构多节点协同分布式神经网络部署*** | |
CN115884195A (zh) | 模型训练方法、无线资源调度方法及其装置及电子设备 | |
CN116599862B (zh) | 通信方法、分析网元和通信*** | |
US20240027567A1 (en) | Increasing Wireless Network Performance Using Contextual Fingerprinting | |
Qiao et al. | NEIVA: environment identification based video bitrate adaption in cellular networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |