CN104113903A - 基于交互式认知学习的下行功率调整方法和装置 - Google Patents

基于交互式认知学习的下行功率调整方法和装置 Download PDF

Info

Publication number
CN104113903A
CN104113903A CN201410373841.7A CN201410373841A CN104113903A CN 104113903 A CN104113903 A CN 104113903A CN 201410373841 A CN201410373841 A CN 201410373841A CN 104113903 A CN104113903 A CN 104113903A
Authority
CN
China
Prior art keywords
case
power
learning
information
interactive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410373841.7A
Other languages
English (en)
Other versions
CN104113903B (zh
Inventor
高志斌
温斌
黄联芬
蔡鸿祥
姚彦
张远见
李馨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamen University
Comba Network Systems Co Ltd
Original Assignee
Xiamen University
Comba Telecom Systems Guangzhou Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamen University, Comba Telecom Systems Guangzhou Co Ltd filed Critical Xiamen University
Priority to CN201410373841.7A priority Critical patent/CN104113903B/zh
Publication of CN104113903A publication Critical patent/CN104113903A/zh
Application granted granted Critical
Publication of CN104113903B publication Critical patent/CN104113903B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Mobile Radio Communication Systems (AREA)

Abstract

基于交互式认知学习的下行功率调整方法和装置,涉及通信技术。家庭基站作为具备学习能力的智能体,以提高组网性能为学习目标,通过调整资源块的功率分配来进行网络优化。除了自身的学习进化,家庭基站之间还可以根据交流相似度和专业知识度,来进行交互式学习以提高学习效率同时节省由自身通过空中接口积累学习经验的长时间能量损耗。通过调整资源块的功率分配来进行网络优化,能够减小混合组网的干扰,提高吞吐量。除自身学习以外,将家庭基站网关作为案例库,家庭基站可以根据相似度和专业知识度,来交互学习以提高学习效率同时节省由空中接口积累学习经验的长时间能量损耗。

Description

基于交互式认知学习的下行功率调整方法和装置
技术领域
本发明涉及通信技术,尤其是涉及一种基于交互式认知学习的下行功率调整方法和装置。
背景技术
文献《Femtocells:technologies and deployment》(Zhang,J.,&De la Roche,G.(2010).Femtocells:technologies and deployment(pp.1-13).New York:Wiley.)中调查显示,在传统的蜂窝小区中有2/3的话音业务和90%的数据业务发生在室内,室内无线接入网的覆盖和容量显得格外重要。而宏基站价格十分昂贵,并且站址的选取,设备的安装、调试和维护都要耗费大量的人力、财力、物力和时间,通过增加宏基站来解决这一问题会增加运营商的开支并带来大量复杂的网络规划问题。在这样的大背景下,家庭基站等新兴设备应运而生。
家庭基站又称毫微微蜂窝式基站,是一种低功率无线接入点,工作于授权频段,由用户已有宽带(如DSL、有线电缆、光纤)接入,远程通过专用网关实现从IP网到移动核心网的连通。它具有成本低廉、安装方便、自动配置、即插即用等特点,与运营商的其它移动基站同制式、同频段,因此手机等移动终端可以通用。其发射功率与Wi-Fi设备相差不大,约为10~100mW,覆盖半径为10~50m,支持数个活动用户,用于灵活地改善室内室外的无线信号覆盖和增加网络容量。但是,在宏基站与家庭基站的混合组网中不可避免地存在干扰。一方面,家庭基站作为一种商品,是由用户自由购买和安装,导致运营商不知道其位置分布情况;另一方面,随着家庭基站的普及,其在数量上将全面超越传统宏基站的规模,这将进一步地影响整网的性能。从功率的角度来看,如果不进行干扰管理,下行可能会出现以下负面情况:
(1)家庭基站的信号过小而被宏蜂窝信号覆盖淹没,导致家庭基站的覆盖区域很小、信号质量差;
(2)若家庭基站信号相对于宏基站信号过大,可能导致宏蜂窝用户失去与宏基站的连接进入一个盲区(死区),即宏蜂窝用户既没有接入闭合模式下的家庭基站的权限,又不能连接到宏基站;也可能使得宏蜂窝用户受到家庭基站干扰过大,性能降低。
传统的LTE家庭基站下行功率调整方法主要有以下几种:
文献《Improved Decentralized Q-learning Algorithm for Interference Reduction inLTE-Femtocells》(Serrano A M G.Self-organized Femtocells:a Time Difference LearningApproach[J].2012.)中提到的固定功率分配。
文献《Interference control for LTE Rel-9HeNB cells》(Jeju,Interference control for LTE Rel-9HeNB cells[S],3GPP TSG RAN WG4,R4-094245,November 9th-13th,2009)中提出的智能功率控制(SPC)方法。
文献《Cognition and docition in OFDMA-based femtocell networks》(Galindo-Serrano A,Giupponi L,Dohler M.Cognition and docition in OFDMA-based femtocell networks[C]//GlobalTelecommunications Conference(GLOBECOM 2010),2010IEEE.IEEE,2010:1-6.)中提到的迭代注水算法。
这些方法有以下不足:
(1)首先,在LTE中定义能分配给用户的最小时频单位为资源块,而大部分传统方法只对最大总发射功率进行调整,没有考虑基于资源块的功率调整;
(2)其次,分布式管理中,支持基于资源块的功率调整方法很少考虑到家庭基站之间的交互学习,只以提高自身性能为唯一目的。
发明内容
本发明的目的在于提供一种用以降低家庭基站对于宏蜂窝用户产生的干扰,并加速该过程实现的基于交互式认知学习的下行功率调整方法和装置。
所述基于交互式认知学习的下行功率调整方法,包括两个进程:
1.基于交互式认知的下行功率调整,包括:
(1)每个家庭基站维护一张下行功率信息表,所述下行功率信息表以资源块为最小单位,用于决定每个资源块的发射功率,对下行功率信息表的所有数据进行初始化;
(2)家庭基站周期性地感知当前发射功率配置所造成的干扰情况,然后根据感知的信息和相应的更新规则更新下行功率信息表中所对应的数据;
(3)使用更新后的下行功率信息表和规定的分配方法决定下一周期的发射功率配置;
(4)重复进行步骤(2)和(3),最终目标是使得每次根据感知信息所分配的发射功率最佳;
2.基于交互式学习的下行功率调整,包括:
(1)家庭基站周期性地将自身维护的功率信息表、相似度参数、专业知识度等信息作为一个案例上报给具有汇聚功能的终端设备,所述终端设备采用家庭基站网关,家庭基站网关为每个案例设定一个生存时间,案例超过生存时间后,自动删除;
(2)家庭基站进行主动学习,家庭基站网关进行主动教授,两种方式同时进行,用于对下行功率进行调整;
所述主动学习是指:对于开启时间小于阈值的家庭基站,主动向家庭基站网关发出学习申请,并上报相似度参数和专业知识度;网关根据上报的相似度参数计算与案例库中各案例的相似度,将相似度在阈值以上的案例作为备选案例,再比较备选案例的专业知识度,取最高者作为终选案例,将该案例的对应表格发送给发出学习申请的家庭基站,并将此案例在从案例库中删除,基站使用该表格信息执行基于交互式认知的功率调整后,若专业知识度提高,则向网关发送确认信号并覆盖原有表格,结束学习过程;否则,网关选择当前备选案例中专业知识度最高的案例作为终选案例,发送给发出学习申请的家庭基站进行学习,直到备选案例为空,网关向基站发送反馈信息,停止学习过程。
所述主动教授是指:对于最新上报的案例,家庭基站网关计算该案例与案例库中各案例的相似度,选择相似度最高的案例,比较上报案例与选择案例的专业知识度;若相差在阈值以内,则停止教授过程;否则将专业知识度较大的案例的表格发送给专业知识度较小的那一案例对应的家庭基站,以进行基于交互式认知的功率调整,若执行后专业知识度提高,则向网关发送确认信号并覆盖原有表格,结束教授过程;否则,保留原有表格,结束教授过程。此过程不需对所有新上报案例执行。
以上所述交互式认知和学习的下行功率调整方法在实际操作中循环执行。
所述基于交互式认知学习的下行功率调整装置,在基站侧包括三个模块单元:信息存储模块、信息发送/接收模块、信息处理模块;
所述信息存储模块的主要功能是:1)存储基于交互式认知的功率调整所维护的功率信息表,信息处理模块将使用功率信息表,处理后再存入信息存储模块;2)暂时存储基于交互式学习的功率调整中获得的案例信息并决定当前使用的表格;
所述信息发送/接收模块的主要功能是:1)周期性地接收由邻区宏蜂窝用户反馈的各种信息,并将接收值上报给信息处理模块,对于干扰信息,若不存在邻区宏蜂窝用户的干扰或者干扰极小(小于某预定的阈值),可忽略,则人为地规定上报值为0;若存在多个邻区宏蜂窝用户的干扰,则从中选取干扰最大的作为上报值,使得最终处理结果满足对所有的宏蜂窝用户的干扰降至阈值以下;2)负责向家庭基站网关发送自身案例及其它相关信息;
所述信息处理模块的主要功能是:1)在基于交互式认知的功率调整中,与信息接收模块同周期地处理存储信息和上报信息,具体是指更新表格信息以及决定资源块发射功率;2)在基于交互式学习的功率调整中,将自身维护表格、相似度参数、专业知识度以及其它所需信息组成案例并交予信息发送/接收模块。
本发明通过调整资源块的功率分配来进行网络优化,能够减小混合组网的干扰,提高吞吐量。除自身学习以外,将家庭基站网关作为案例库,家庭基站可以根据相似度和专业知识度,来交互学习以提高学习效率同时节省由空中接口积累学习经验的长时间能量损耗。
附图说明
图1为本发明实例中LTE宏基站和家庭基站混合组网的***架构图。
图2为家庭基站的交互式认知学习的功率调整装置模块功能关系图。
图3为家庭基站基于交互式认知的功率调整流程图。
图4为家庭基站基于交互式学习的主动学习流程图。
图5为家庭基站网关基于交互式学习的主动教授流程图。
具体实施方式
以下结合附图对本发明进行详细描述。
本发明实施场景以LTE宏基站与家庭基站混合组网为例,LTE宏基站与家庭基站混合组网***架构如图1所示。
本发明为基于交互式认知学习的下行功率调整方法,该方法主要进程为:1、基于交互式认知的下行功率调整;2、基于交互式学习的下行功率调整;进程1、2在实际操作中循环执行,并且基于1、信息存储模块;2、发送/接收模块;3、信息处理模块实现,模块功能关系如图2所示。
信息存储模块的主要功能是:1)存储基于交互式认知的功率调整所维护的功率信息表,信息处理模块将使用功率信息表,处理后再存入信息存储模块;2)暂时存储基于交互式学习的功率调整中获得的案例信息并决定当前使用的表格。
发送/接收模块的主要功能是:1)周期性地接收由邻区宏蜂窝用户反馈的各种信息,并将接收值上报给信息处理模块,对于干扰信息,若不存在邻区宏蜂窝用户的干扰或者干扰极小(小于某预定的阈值),可忽略,则人为地规定上报值为0;若存在多个邻区宏蜂窝用户的干扰,则从中选取干扰最大的作为上报值,使得最终处理结果满足对所有的宏蜂窝用户的干扰降至阈值以下;2)负责向家庭基站网关发送自身案例及其它相关信息。
信息处理模块的主要功能是:1)在基于交互式认知的功率调整中,与信息接收模块同周期地处理存储信息和上报信息,具体是指更新表格信息以及决定资源块发射功率;2)在基于交互式学习的功率调整中,将自身维护表格、相似度参数、专业知识度以及其它所需信息组成案例并交予信息发送/接收模块。
本发明提供一个实施例,本例中的家庭基站资源分配采用比例公平算法独立地将资源块分配给不同的用户;本例中基于交互式认知的下行功率调整以Q学习为例进行说明。
Q学习中的智能体,状态,动作,回报定义如下:
智能体:家庭基站,基站数量i={1,2,…,N},每个基站的资源块r={1,2,…,R}。
第i个家庭基站第r个资源块上的状态s:si,r={Ii,r,Powi},其中,Ii,r为信干噪比指示符。
I i , r = 0 if SINR _ I i , r < ( SINR Th - x ) 1 if ( SINR Th - x ) &le; SINR _ I i , r &le; ( SINR Th + x ) , 2 SINR _ I i , r > ( SIN R Th + x ) ,
SINR_Ii,r为上报的邻区宏蜂窝用户对第i个家庭基站第r个资源块的信干噪比,从相邻宏基站获取对应终端用户信息的具体方法可参考专利CN 102045795A《一种从目标基站获取信息的方法及装置》中所述实现,SINRTh为规定的干扰阈值,x为一常数(单位为dB),用于范围微调;
Pow i = 0 if Pow i < ( Pow Th - y ) 1 if ( Pow Th - y ) &le; Pow i &le; Pow Th 2 Pow i > Pow Th
Powi为第i个家庭基站实际发射功率,PowTh为家庭基站额定最大发射功率,y为一常数(单位为dBm),用于范围微调,实际情况当中,若分配功率之和超过最大发射功率,则采用最大发射功率按Q学习分配的功率成比例进行分配,但Q值表中记录的状态不变,这种情况会随着收敛的过程概率逐渐趋于0。
Ii,r和Powi的量化精度可根据实际情况进行调整。
动作a:可分配给每个资源块的功率等级ai,r∈{a1,a2,...,aM},单位为dBm。
第i个家庭基站第r个资源块上的回报值re:
re i , r = - 1 if Pow i > Pow Th e - ( SINR _ I i , r - SINR Th ) 2 - e ( - SINR i , r / K ) if Pow i &le; Pow Th , 其中,K为正常数,SINRi,r为第i个家庭基站第r个资源块上的信干噪比。
此外,本例中所有的信干噪比(SINR)也可使用信道质量指示符(CQI)代替。
参见图3,本发明基于交互式认知的下行功率调整实现步骤如下:
(1)家庭基站维护一张三维Q值表,对Q值表、资源块所处状态s及动作a进行初始化。其中,Q值表第一维为状态s,第二维为动作a,第三维为资源块r;
(2)家庭基站周期性地获取由邻区宏蜂窝用户反馈的信干噪比(SINR);
(3)根据接收的SINR值和相应状态量化规则获得当前状态的量化值s',并计算回报值re,
(4)采用以下规则对Q值表进行更新:
Q ( s , a , r ) = ( 1 - lf ) Q ( s , a , r ) + lf ( re + &gamma; max a &prime; Q ( s &prime; , a &prime; , r ) )
其中,γ∈(0,1)为常数折现因子,它体现了未来回报相对当前回报的重要性,lf∈[0,1)为常数学习因子,它用于控制收敛的速率;
(5)对每一个资源块,根据当前Q值表及状态s'采用e-贪婪算法选取并在本周期内执行该动作a'。具体方法是:e为0-1之间的较小常数,产生一个在0-1之间的随机数p,若p<e,则随机选取一个动作;否则,选择状态s'中,对应Q值最大的动作;
(6)更新状态及动作s=s',a=a',并转至步骤(2)。
本例中基于交互式学习的功率调整中的相似度参数,专业知识度定义如下:
相似度参数sim:simi,r={eni,r,act_eni,r},其中eni,r是对应家庭基站i的资源块r上的环境相似度,这里使用SINRi,r表示,但在其他实施例中不局限于使用SINRi,r表示;act_eni,r是对应家庭基站i的资源块r上的动作对环境的影响相似度,ai,r为对应基站i的对应资源块r上Q学习中的动作,下标t和t-1分别表示当前周期与前一个周期。
专业知识度exp:expi,r=θ1·ηi2·coni,r其中θ1、θ2为权值,θ12=1;ηi为第i个家庭基站的能效利用率,C为家庭基站吞吐量,P为实际传输功率,w为使用带宽;coni,r为对应家庭基站i的资源块r上的Q值表的收敛度,qi,r为对应家庭基站i的资源块r上的Q值表,下标t和t-1分别表示当前周期与前一个周期。
参见图4和5,本发明基于交互式学习的下行功率调整实现步骤如下:
(1)家庭基站周期性将Q值表、相似度参数、专业知识度等信息组合为一个案例通过S1接口上报给对应家庭基站网关,存入案例库中,案例超过生存时间后,自动从案例库中删除。假设基于交互式认知的功率调整的单周期时间为T,家庭基站上报周期为1000T,每个案例的生存时间为1200T,案例库存满时删除生存时间在设定值(如500T)以下的案例;
(2)家庭基站向网关发出学习申请,上报相似度参数sim1和专业知识度exp1;网关根据sim1计算与案例库中各案例的相似度δ,计算公式如下:
其中υi为权值,|pi1-pi2|表示两案例对应相似度参数之差的绝对值,N为相似度参数的数量,本例中取2;
(3)将相似度大于阈值dTh对应的案例作为备选案例。若无备选案例,网关向基站发送相应反馈信息,停止学习过程,否则,选取备选案例中exp值最高的案例,将对应的Q值表发送给基站,并将案例从备选案例中删除,基站使用该Q值表进行功率调整,经100T后检测专业知识度是否提高,若提高则覆盖原有Q值表,向网关发送确认信号,网关释放备选案例,结束学习过程;若没有提高则再次发出学习申请,网关选择当前备选案例中exp值最高的案例,将对应的Q值表发送给基站进行学习,直至备选案例为空,若仍无满足条件的案例,则网关向基站发送反馈信息,停止学习过程。
(4)选取最新上报的案例c1,网关计算该案例与案例库中各案例的相似度,方法同步骤(2)描述。选择对应相似度最高的案例c2,比较c1和c2的专业知识度。若|exp1-exp2|≤expTh,则停止教授过程;若exp1-exp2>expTh,则将c1的Q值表发送给c2对应的家庭基站,c2对应的基站使用该Q值表进行功率调整,如果专业知识度得到提升,则向网关发送确认信号并覆盖原有Q值表,否则仍使用原有Q值表,结束教授过程;若exp2-exp1>expTh,则将c2的Q值表发送给c1对应的家庭基站,c1对应的基站使用该Q值表进行功率调整,如果专业知识度得到提升,则向网关发送确认信号并覆盖原有Q值表,否则仍使用原有Q值表,结束教授过程。expTh为专业知识度之差的阈值。
可以理解,本发明提供的一种基于交互式认知的下行功率调整方法,包括以下步骤:
步骤101:周期性地接收由邻区宏蜂窝用户反馈的基于资源块信息;
步骤102:根据所述基于资源块信息确定单资源块的信干噪比;
步骤103:根据所述信干噪比更新功率信息表,并根据功率信息表确定资源块的发射功率;
步骤104:将确定的资源块发射功率分配给对应的家庭基站。
优选的,将确定的资源块发射功率分配给邻区宏蜂窝用户对应的家庭基站,具体包括以下步骤,将确定的资源块发射功率发送给邻区宏蜂窝用户对应的家庭基站;其中,所述功率信息表至少包括状态维度参数s、动作维度参数a、资源块维度参数r,其中,状态维度参数s为:基于家庭基站用户资源块的信干噪比和该家庭基站用户对应发射功率的集合;动作维度参数a为可分配给每个资源块的功率等级。
另外本发明实施例中,根据所述信干噪比更新功率信息表具体包括以下步骤:
Q ( s , a , r ) = ( 1 - lf ) Q ( s , a , r ) + lf ( re + &gamma; max a &prime; Q ( s &prime; , a &prime; , r ) )
其中,Q(s,a,r)为基于状态维度参数s、动作维度参数a、资源块维度参数r的当前功率信息表配置规则;lf为常数学习因子,用于控制收敛的速率,lf∈[0,1);γ为常数折现因子,γ∈(0,1);s'为前一次状态维度参数的量化值,a′为前一次动作维度参数的量化值。可以理解,本发明实施例中的更新功率信息表还可以包括其他更新规则,如使用不同范围的参数,或者添加其他因子影响。
本发明提供的一种基于交互式学习的下行功率调整方法,包括以下步骤:
步骤201:家庭基站将相关信息组合为一个案例,存入案例库中,案例超过生存时间后自动删除;
步骤202:家庭基站向网关发出学习申请,上报相关信息后;案例库计算其与案例库中案例相似度;
步骤203:根据相似度与专业知识度选取适合案例,将该案例的对应表格发送给发出学习申请的家庭基站,基站使用该表格信息执行基于交互式认知的功率调整后,根据专业知识度的变化决定是否继续学习过程;
步骤204:对于最新上报的案例,家庭基站网关选取相似案例比较专业知识度,若相差在阈值以内,则停止教授过程;否则将专业知识度较大的案例的表格发送给专业知识度较小的那一案例对应的家庭基站,以进行基于交互式认知的功率调整,若执行后专业知识度提高,则向网关发送确认信号并覆盖原有表格;否则,保留原有表格,结束教授过程。
通过上述方案,本发明实施例中,可以分配给用户的最小时频单位为资源块,进而,通过基于资源块的功率调整使得家庭基站之间的交互学习,提高了家庭基站的自身性能。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序指令等相关硬件来完成,所述的程序可存储于一计算机可读存储介质中,该程序执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
由此可见,本发明提供了下行功率调整方法和装置,并提供了多种可选适配方案,以上实施例并非限制本发明所描述的技术方案,因此,尽管本说明书参照上述的各个实施例对本发明已进行了说明,本领域的相关人员应当理解,一切不脱离本发明的精神和范围的技术方案及其改进,其均应涵盖在本发明的权利要求范围当中。

Claims (10)

1.基于交互式认知学习的下行功率调整方法,其特征在于包括以下进程: 
进程1.基于交互式认知的下行功率调整; 
进程2.基于交互式学习的下行功率调整。 
2.如权利要求1所述基于交互式认知学习的下行功率调整方法,其特征在于在进程1中,所述基于交互式认知的下行功率调整,包括: 
(1)每个家庭基站维护一张下行功率信息表,所述下行功率信息表以资源块为最小单位,用于决定每个资源块的发射功率,对下行功率信息表的所有数据进行初始化; 
(2)家庭基站周期性地感知当前发射功率配置所造成的干扰情况,然后根据感知的信息和相应的更新规则更新下行功率信息表中所对应的数据; 
(3)使用更新后的下行功率信息表和规定的分配方法决定下一周期的发射功率配置; 
(4)重复进行步骤(2)和(3),最终目标是使得每次根据感知信息所分配的发射功率最佳。 
3.如权利要求1所述基于交互式认知学习的下行功率调整方法,其特征在于在进程2中,所述基于交互式学习的下行功率调整,包括: 
(1)家庭基站周期性地将自身维护的功率信息表、相似度参数、专业知识度作为一个案例上报给具有汇聚功能的终端设备,所述终端设备采用家庭基站网关,家庭基站网关为每个案例设定一个生存时间,案例超过生存时间后,自动删除; 
(2)家庭基站进行主动学习,家庭基站网关进行主动教授,两种方式同时进行,用于对下行功率进行调整。 
4.如权利要求3所述基于交互式认知学习的下行功率调整方法,其特征在于在步骤(2)中,所述主动学习是指:对于开启时间小于阈值的家庭基站,主动向家庭基站网关发出学习申请,并上报相似度参数和专业知识度;网关根据上报的相似度参数计算与案例库中各案例的相似度,将相似度在阈值以上的案例作为备选案例,再比较备选案例的专业知识度,取最高者作为终选案例,将该案例的对应表格发送给发出学习申请的家庭基站,并将此案例在从案例库中删除,基站使用该表格信息执行基于交互式认知的功率调整后,若专业知识度提高,则向网关发送确认信号并覆盖原有表格,结束学习过程;否则,网关选择当前备选案例中专业知识度最高的案例作为终选案例,发送给发出学习申请的家庭基站进行学习,直到备选案例为空,网关向基站发送反馈信息,停止学习过程。 
5.如权利要求3所述基于交互式认知学习的下行功率调整方法,其特征在于在步骤(2) 中,所述主动教授是指:对于最新上报的案例,家庭基站网关计算该案例与案例库中各案例的相似度,选择相似度最高的案例,比较上报案例与选择案例的专业知识度;若相差在阈值以内,则停止教授过程;否则将专业知识度较大的案例的表格发送给专业知识度较小的那一案例对应的家庭基站,以进行基于交互式认知的功率调整,若执行后专业知识度提高,则向网关发送确认信号并覆盖原有表格,结束教授过程;否则,保留原有表格,结束教授过程,此过程不需对所有新上报案例执行。 
6.如权利要求1所述基于交互式认知学习的下行功率调整方法,其特征在于所述交互式认知的下行功率调整和交互式学习的下行功率调整在实际操作中循环执行。 
7.基于交互式认知学习的下行功率调整装置,其特征在于在基站侧包括三个模块单元:信息存储模块、信息发送/接收模块、信息处理模块。 
8.如权利要求7所述基于交互式认知学习的下行功率调整装置,其特征在于: 
所述信息存储模块的主要功能是:1)存储基于交互式认知的功率调整所维护的功率信息表,信息处理模块将使用功率信息表,处理后再存入信息存储模块;2)暂时存储基于交互式学习的功率调整中获得的案例信息并决定当前使用的表格; 
所述信息发送/接收模块的主要功能是:1)周期性地接收由邻区宏蜂窝用户反馈的各种信息,并将接收值上报给信息处理模块,对于干扰信息,若不存在邻区宏蜂窝用户的干扰或者干扰小于预定的阈值,可忽略,则人为地规定上报值为0;若存在多个邻区宏蜂窝用户的干扰,则从中选取干扰最大的作为上报值,使得最终处理结果满足对所有的宏蜂窝用户的干扰降至阈值以下;2)负责向家庭基站网关发送自身案例及其它相关信息; 
所述信息处理模块的主要功能是:1)在基于交互式认知的功率调整中,与信息接收模块同周期地处理存储信息和上报信息,具体是指更新表格信息以及决定资源块发射功率;2)在基于交互式学习的功率调整中,将自身维护表格、相似度参数、专业知识度以及其它所需信息组成案例并交予信息发送/接收模块。 
9.一种下行功率调整方法,其特征在于,包括以下步骤: 
(1)周期性地接收由邻区宏蜂窝用户反馈的基于资源块信息; 
(2)根据所述基于资源块信息确定单资源块的信干噪比; 
(3)根据所述信干噪比更新功率信息表,并根据功率信息表确定资源块的发射功率; 
(4)将确定的资源块发射功率分配给对应的家庭基站用户。 
10.如权利要求9所述的方法,其特征在于:将确定的资源块发射功率分配给邻区宏蜂窝用户,具体步骤如下:将确定的资源块发射功率发送给邻区宏蜂窝用户;其中,所述功率 信息表至少包括状态维度参数s、动作维度参数a、资源块维度参数r,其中,状态维度参数s为:基于家庭基站用户资源块的信干噪比和该家庭基站用户对应发射功率的集合;动作维度参数a为可分配给每个资源块的功率等级; 
根据所述信干噪比更新功率信息表的具体步骤如下: 
其中,Q(s,a,r)为基于状态维度参数s、动作维度参数a、资源块维度参数r的当前功率信息表配置规则;lf为常数学习因子,用于控制收敛的速率,lf∈[0,1);γ为常数折现因子,γ∈(0,1);s'为前一次状态维度参数的量化值,a′为前一次动作维度参数的量化值。 
CN201410373841.7A 2014-07-31 2014-07-31 基于交互式认知学习的下行功率调整方法和装置 Active CN104113903B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410373841.7A CN104113903B (zh) 2014-07-31 2014-07-31 基于交互式认知学习的下行功率调整方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410373841.7A CN104113903B (zh) 2014-07-31 2014-07-31 基于交互式认知学习的下行功率调整方法和装置

Publications (2)

Publication Number Publication Date
CN104113903A true CN104113903A (zh) 2014-10-22
CN104113903B CN104113903B (zh) 2018-01-16

Family

ID=51710499

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410373841.7A Active CN104113903B (zh) 2014-07-31 2014-07-31 基于交互式认知学习的下行功率调整方法和装置

Country Status (1)

Country Link
CN (1) CN104113903B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106358308A (zh) * 2015-07-14 2017-01-25 北京化工大学 一种超密集网络中的强化学习的资源分配方法
CN108833423A (zh) * 2018-06-25 2018-11-16 厦门大学 一种基于强化学习的多途径保密信息通信方法
CN110191489A (zh) * 2019-05-17 2019-08-30 北京科技大学 一种超密集网络中基于强化学习的资源分配方法及装置
CN110546028A (zh) * 2017-02-03 2019-12-06 宾利汽车有限公司 再生制动***
CN113810986A (zh) * 2020-06-12 2021-12-17 深圳市万普拉斯科技有限公司 发射功率动态调节方法、装置、终端和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100118844A1 (en) * 2008-11-12 2010-05-13 At&T Intellectual Property I, Lp Dynamic lightweight remote management of hybrid femtocell gateways
CN102811443A (zh) * 2012-07-27 2012-12-05 南京邮电大学 家庭基站***中基于频谱分配及功率控制的干扰管理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100118844A1 (en) * 2008-11-12 2010-05-13 At&T Intellectual Property I, Lp Dynamic lightweight remote management of hybrid femtocell gateways
CN102811443A (zh) * 2012-07-27 2012-12-05 南京邮电大学 家庭基站***中基于频谱分配及功率控制的干扰管理方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
A. GALINDO-SERRANO AND L. GIUPPONI: "Distributed Q-learning for interference control in OFDMA-based femtocell networks", 《PROCEEDINGS OF THE 71ST IEEE VEHICULAR TECHNOLOGY CONFERENCE》 *
H. SAAD, A. MOHAMED AND T. ELBATT: "A Cooperative Q-learning Approach for Online Power Allocation in Femtocell Networks", 《2013 IEEE 78TH VEHICULAR TECHNOLOGY CONFERENCE(VTC FALL)》 *
季祥芬: "基于强化学习的家庭基站干扰协调算法研究", 《中国优秀硕士论文电子期刊网》 *
宁海芹: "基于机器学习的Femtocell***功率控制算法研究及优化", 《中国优秀硕士论文电子期刊网》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106358308A (zh) * 2015-07-14 2017-01-25 北京化工大学 一种超密集网络中的强化学习的资源分配方法
CN110546028A (zh) * 2017-02-03 2019-12-06 宾利汽车有限公司 再生制动***
CN108833423A (zh) * 2018-06-25 2018-11-16 厦门大学 一种基于强化学习的多途径保密信息通信方法
CN108833423B (zh) * 2018-06-25 2020-07-31 厦门大学 一种基于强化学习的多途径保密信息通信方法
CN110191489A (zh) * 2019-05-17 2019-08-30 北京科技大学 一种超密集网络中基于强化学习的资源分配方法及装置
CN113810986A (zh) * 2020-06-12 2021-12-17 深圳市万普拉斯科技有限公司 发射功率动态调节方法、装置、终端和存储介质

Also Published As

Publication number Publication date
CN104113903B (zh) 2018-01-16

Similar Documents

Publication Publication Date Title
US10055682B2 (en) Self-optimizing deployment cascade control scheme and device based on TDMA for indoor small cell in interference environments
Galindo-Serrano et al. Distributed Q-learning for interference control in OFDMA-based femtocell networks
CN113597799B (zh) 用于调整波束赋形简档的设备、方法和计算机可读介质
Gao et al. Q-learning-based power control for LTE enterprise femtocell networks
CN104113903A (zh) 基于交互式认知学习的下行功率调整方法和装置
CN103856947A (zh) 一种联合信道选择和功率控制的干扰协调方法
Chandrasekhar et al. Distributed power control in femtocell-underlay cellular networks
CN104770004B (zh) 一种通信***和方法
Al-Zahrani et al. A game theory approach for inter-cell interference management in OFDM networks
Yan et al. Self-imitation learning-based inter-cell interference coordination in autonomous HetNets
CN102905302A (zh) 一种混合网中上行干扰控制方法
Zheng et al. Distributed power optimization for spectrum-sharing femtocell networks: A fictitious game approach
Abdelnasser et al. Joint subchannel and power allocation in two-tier OFDMA HetNets with clustered femtocells
Yang et al. Green heterogeneous networks: a cognitive radio idea
CN105764068A (zh) 一种基于禁忌搜索的小基站容量与覆盖优化方法
Çakir et al. Power adjustment based interference management in dense heterogeneous femtocell networks
Galiotto et al. Effect of LOS/NLOS propagation on area spectral efficiency and energy efficiency of small-cells
US9055539B2 (en) Method and a device for adjusting the transmission power of signals transferred by plural mobile terminals
EP2760237A1 (en) Network Node and Method to adjust user association in HetNets
Vlacheas et al. Operator-governed SON coordination in downlink LTE networks
TWI624168B (zh) 多用戶干擾環境中建構於分頻全雙工-正交分頻多工接取之室內小細胞智慧型佈署串接控制裝置
CN109041009A (zh) 一种车联网上行功率分配方法及装置
Kwan Distributed energy-saving mechanism for self-organizing Femto LTE networks
Castro-Hernandez et al. A distributed load balancing algorithm for LTE/LTE-A heterogeneous networks
Ahmed et al. Stackelberg game based optimized power allocation scheme for two-tier femtocell network

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210901

Address after: Siming District of Xiamen city in Fujian Province, 361000 South Siming Road No. 422

Patentee after: XIAMEN University

Patentee after: Jingxin Network System Co.,Ltd.

Address before: Xiamen City, Fujian Province, 361005 South Siming Road No. 422

Patentee before: XIAMEN University

Patentee before: COMBA TELECOM SYSTEMS (GUANGZHOU) Ltd.