广义RLS算法 篇1
频率是电力系统重要的电能质量指标之一,它对电力系统的运行、控制和保护起着重要的作用。在频率测量领域,已有的频率测量方法主要可以分为以下几类[1]:周期法;解析法;误差最小化原理类算法;离散傅里叶变换(快速傅里叶变化)算法;正交去调制法。近年来,自适应算法的出现,为频率测量提供了一条新途径。自适应算法是指它的参数可以用递推方式自适应更新,能够跟踪和适应系统或环境的变化。目前,用于频率测量的自适应算法主要有Kalman滤波、递推最小二乘(RLS)自适应算法和最小均方(LMS)自适应算法。Kalman滤波有良好的跟踪能力,但是该算法需要事先确定有关噪声的统计参数[2,3,4],并且Kalman增益和Kalman协方差矩阵初值的选取决定了算法的收敛速度和去噪性能[4]。后2类自适应算法具有良好的抑制噪声的能力,不计及噪声统计特性的影响[5,6,7]。其中,RLS算法具有比LMS算法更快的收敛速度,对输入矢量相关矩阵本征值范围内的变化不敏感[8]。但是它的跟踪能力,特别是在非平稳环境下,常常不能满足要求。
基于以上比较,考虑到RLS是Kalman滤波的一个特例,而Kalman滤波在非平稳环境下具有良好的跟踪能力,因此根据RLS和Kalman滤波之间存在一一对应的关系,在RLS中应用Kalman滤波理论,引入Kalman滤波的一步预测估计和新的状态转移矩阵,得到了广义的RLS自适应算法,并用于系统频率测量。同时,考虑到加权遗忘因子λ对算法的收敛速度和跟踪性能也有很大影响:其值越小,则对时变参数的跟踪能力越强,但同时对噪声越敏感;其值越大,则跟踪能力减弱,但对噪声不敏感,收敛时的参数估计误差也越小[9,10]。因此,在算法中采用可变遗忘因子,以确保对时变参数的快速跟踪能力和小的参数估计误差。仿真结果表明:与传统RLS算法相比,所提出的方法在精度和收敛速度上都更优越。
1 引入Kalman滤波理论的广义RLS自适应算法原理
1.1 问题的提出
按指数加权的RLS自适应算法(具体参见文献[11]),即是使用指数加权的误差平方和作为代价函数:
式中 λ为加权遗忘因子,且0≤λ≤1;u(i)为i时刻的输入信号;ω(n)为第n次迭代权系数;d(i)为期望响应;H表示共轭转置。
该算法是基于平稳环境意义下的,采用确定性模型,状态转移矩阵为常数。因此,在非平稳环境下,很难跟踪环境的统计变化。
考虑Kalman滤波理论:Kalman滤波可对状态变量作不同的假设,且具有灵活的状态转移矩阵,使其能描述及处理不同类型的问题;Kalman滤波的最大优点是用前一个估计值和最近的测量值来获取系统当前状态的无偏、最小方差估计,提高了算法的跟踪能力,减少了计算机存储量和计算时间。
1.2 广义RLS自适应算法原理
考虑Kalman滤波的优点,利用RLS和Kalman滤波之间存在一一对应的关系,对按指数加权的RLS自适应算法进行改进,定义数学模型:
式中 F(n+1,n)为状态转移矩阵;x(n)为状态向量;y(n)为观测向量;uH(n)为观测矩阵;v(n)为观测噪声。
算法最终目的就是求出最优的权系数矢量ω(n)。由于ω(n)只是信号处理系统的反映,并不受输入信号的影响,因此将其看作状态变量,使可以对其引入Kalman滤波算法的一步预测估计。
可以得出基于该模型的广义RLS自适应算法如下:
该算法与传统RLS算法相比,主要在4个方面进行了改进。
a.产生一个提供递归估计加权矢量ω(n)的迭代方程:是在(n-1)时间内给定输入数据的未知ω(n)的估值,即用代替了ω(n-1)。
b.p(n,n-1)是预计的加权误差矢量的协方差矩阵,即
在平稳环境下,p(n+1,n)=p(n)。
c.引入了一个灵活的状态转移矩阵F(n+1,n)。
d.σ2(n)为量测噪声的方差。
对于状态转移矩阵F(n+1,n),文献[8]提出2种处理方法。
a.状态转移矩阵F(n+1,n)为已知,通常表示为常数倍单位矩阵,特别情况下,常数取为1。
b.可以把F(n+1,n)看作是一个以未知数φ全部参数化的未知对角线矩阵,以便算法能够跟踪时变问题。但这种方法引入了2个状态变量,增加了方程迭代阶数,计算量加大。
这里采用处理方法a,而考虑由加权遗忘因子λ承担跟踪时变系统的能力。
2 引入可变遗忘因子的原理
在按指数加权的RLS自适应算法中,引入了加权遗忘因子λ。λ=1相当于各时刻的误差被同等对待,即无任何遗忘功能,或具有无穷记忆功能,此时,指数加权的最小二乘方法退化为一般的最小二乘方法。λ=0,则只有现时刻的误差起作用,而过去时刻的误差完全被遗忘[11]。在非平稳环境下,希望λ足够小,只需要有限的最近时刻的误差起作用,使算法能够快速跟踪上非平稳信号的局部趋势[9]。另一方面,希望在稳态情况下,λ能够逐渐变大到一个合适的值,以减小参数估计误差。因此,提出可变的遗忘因子λ(n)[9]:
NINT指接近于ρe(n)2的最小整数;ρ为一个敏感增益,控制λ趋近1的速率:当估计误差e(n)趋于无穷时,得到λ的最小值λmin;当e(n)趋于0时,λ=1。
根据多次仿真结果,在本文的实际算例中,取λmin=0.7,ρ=5。
把可变的遗忘因子λ(n)代入广义RLS自适应算法就得到了所需要的算法。
3 仿真算例
计算模型如下:
其中,s(n)=a cos(j 2πftn),a为幅值,取a=1.0,f为基波频率,tn=n ts,ts为采样间隔;v(n)是均值为零、方差为σ2的随机噪声。
定义信噪比公式[2]:
可以得到噪声方差σ2。
预估计频率为50 Hz,采样频率为800 Hz,采样点数N=1024。
下面对基于可变遗忘因子λ(n)的广义RLS自适应算法和按指数加权的传统RLS算法进行比较。
算法初始化:。其中,δ-1是一很小的常数,可以取为10-4。
2种算法的基本思想都是基于输入信号u(n)=[y(n),y(n-1),…,y(n-M+1)]T求出状态量即ω(n)的最优估计。其中,M为滤波器的阶数。
在求出最优权系数矢量ω(n)后,可以得到估计信号。由于本文所用模型为实信号模型,因此需要进行Hilbert变换,得到的解析信号z(n)。再根据瞬时频率定义式(9)计算频率。
3.1 在稳态下加入谐波的情况
在原计算模型下(即式(7))加入20%的2次谐波、10%的3次谐波、5%的5次谐波。信噪比SNR取为10 d B。
图1是在加入谐波的情况下得到的频率估计值(图中N为采样点数,虚线为传统RLS方法,实线为本文方法;后同)。可以看出本文方法得到的频率估计值相比传统RLS(λ=0.99)测得的更加精确,最大误差不超过0.2 Hz。图2显示的是2种方法的均方误差e的收敛情况,从图中可以看出本文方法收敛速度很快。
3.2 幅值变化的影响
对于计算模型(即式(7)),在采样点数N为800时幅值由原来的1.0突然变为1.1。信噪比SNR取为20 dB。
图3是在该情况下得到的频率估计值,本文方法明显优于传统RLS(λ=0.90),暂态过程持续时间不到2个周期。从图中还可以看出,在幅值突变时段,误差较大。对于本文方法,这正是由于为了快速跟踪上变化的信号,λ值减小,导致误差增大的结果;平稳后,λ值增大,误差减小。
对传统的RLS,从图4显示它的误差收敛速度变快,但是在幅值突变时段,误差很大。这是因为在仿真过程中,λ的取值由0.99变为0.90的原因。这也说明了λ确实对算法的精确度和收敛速度有影响。
3.3 频率变化的影响
对于计算模型(即式(7)),在采样点数N为800时频率由原来的50 Hz突然变为49 Hz。信噪比SNR取为20 dB。
从图5可见,在输入频率突变时段,本文提出的方法有一些小的波动,在大约2个周期后跟踪上频率的变化,测量值与实际频率相吻合。而传统RLS(λ=0.99)则很难跟踪上频率的变化。
图6显示本文方法相比于传统的RLS误差收敛速度更快,并且在输入频率突变时段误差也相对小。
4 结论
提出了一种新的频率测量方法,把Kalman滤波理论和可变遗忘因子引入了按指数加权的传统RLS算法。该方法具有以下优点:
a.根据Kalman滤波理论,引入Kalman一步预测估计和新的状态转移矩阵,改进了滤波器的自适应跟踪能力;
b.可变遗忘因子改进了算法跟踪时变系统的能力,且调节了常量遗忘因子不能同时满足收敛速度快和参数估计误差小的矛盾。
仿真结果表明:在存在噪声和谐波干扰的稳态情况下,可以精确测出系统的频率;在幅值和频率突变的情况下,也可以较为快速和精确地跟踪频率的变化。
摘要：传统的递推最小二乘(RLS)算法有良好的抑制噪声的能力,但在非稳态环境下跟踪能力弱,导致误差大。RLS和Kalman滤波之间存在一一对应的关系,引入Kalman滤波的一步预测估计和新的状态转移矩阵,可以得到广义的RLS算法,该算法改进了跟踪能力。同时,考虑到加权遗忘因子对算法的收敛速度和跟踪能力也有很大影响,故在广义RLS算法中再引入可变的遗忘因子,以确保对时变参数的快速跟踪能力和小的参数估计误差。对基于可变遗忘因子的广义RLS自适应算法和按指数加权的传统RLS算法进行了仿真比较,分析了在稳态下加入谐波、输入幅值变化、输入频率变化等情况下,2种方法所得的频率估计值和均方误差,结果显示所提方法在精度和收敛速度上都更优越。
广义RLS算法 篇2
为了提高经济领域统计数据的预测精度，代数多项式预测模型的建模方法应运而生.该方法使用代数多项式模型拟合给定的经济统计数据，并使用递推最小二乘法（RLS）对多项式拟合模型的加权系数进行递推计算以获得最优模型参数，然后通过获得的最优多项式模型计算未来预测数据.文章以实际统计的经济数据为例进行了仿真计算，研究结果表明，该方法不仅能实现统计数据的高精度拟合，而且具有很好的预测能力，在经济领域具有广阔的应用前景.
关键词 多项式模型；递推最小二乘法；数据拟合；预测
中图分类号 O212 文献标识码 A
Research on Polynomial Prediction Model Based
on RLS Algorithm and Its Applications
ZENG Xiangyu
（Business School， University of International Business and Economics， Beijing 100029， China）
Abstract In order to improve the prediction accuracy of economic statistical data， modeling method of algebraic polynomial prediction model was put forward. In the proposed method， the given economic statistic data was fitted by algebraic polynomial model based on recursive least squares （RLS）， in which the optimal weighted coefficients were obtained through recursive calculation， and then the future data was computed by the obtained optimal polynomial model. This paper took the actual statistical data as an example to carry on simulation calculation. The research results show that the proposed method can fit the statistical data in high accuracy， and has good prediction ability. Therefore， it will have broad application prospects in the economic field.
Key words polynomial model； recursive least squares （RLS）； data fitting； forecasting
1 引 言
在经济发展过程中，若能科学合理预测经济发展趋势，为决策制定提高有价值的参考，对我国经济健康快速发展具有重大意义.目前国内外最常用的经济预测方法主要有回归分析预测法、人工神经网络预测方法、灰色预测法、Logistic预测模型[1-5]等，由于这些方法都是用单一预测模型从某一个侧面去刻画数据序列的变化规律，反映序列的部分信息，存在一定的局限性.为了克服单一预测模型存在的局限性，国内外学者提出了组合预测方法，并取得了大量研究成果[6-10].如文献[1]，[6]将多种预测方法以合理的方法组合起来综合对经济现象进行预测，主要使用并联型组合预测模型和串联型组合预测模型，取得了明显效果.此外，文献[4]利用差分和最小二乘法，给出了Logistic模型的一种便于使用的参数估计方法；为了克服BP神经网络在经济预测中存在的对训练样本数量和质量的较高要求、容易陷入局部极小值、收敛速度慢、泛化能力差等问题，文献[11，12]利用非线性优化的遗传算法、演化算法以及模拟退火算法等进行前向神经网络的训练；文献[13，14]利用遗传算法及其改进算法优化网络权值和阈值，有效提高了收敛速度，但算法复杂；文献[3]提出了使用免疫人工鱼群算法来训练神经网络，并取得了良好效果；为了克服因观测数据过少而难以获得预期的预测效果问题，文献[15]提出了基于贝叶斯向量自回归的区域经济预测模型，取得了良好预测效果.
为了进一步完善经济预测理论体系，文章提出了基于多项式模型与递推最小二乘法的经济预测方法，该方法有效避免了各种假设条件可能引起的不确定性，充分利用原始数据建立经济预测模型.研究结果表明了多项式经济预测方法的有效性.
经 济 数 学第 31卷第1期
曾湘宇：基于RLS算法的多项式预测模型及其应用研究
2 多项式预测模型描述
5 结 论
文章根据实际统计数据建立了m阶多项式拟合模型，并利用具有噪声滤波功能的递推最小二乘法获得拟合模型的最优加权系数，由图1和图2的拟合结果可以看出，文章研究的多项式拟合模型能够很好地拟合实际统计数据.由表1可知，本文的相关指数为0.998 65， 明显大于文献[4]的相关指数0.983 20，因此本文研究的曲线拟合方法具有更高的拟合优度；由表2可知，本文的平均绝对相对误差为2.27%，明显优于文献[6]的平均绝对相对误差4.23%，而且由图2b可知，本文的最大相对误差为6.6%，明显优于文献[6]的最大相对误差12.06%.通过上述两个不同领域的仿真实例可知，与文献[4]的Logistic模型预测方法以及文献[6]的正权重组合预测模型相比，本文研究的代数多项式拟合模型不仅有更好的曲线拟合优度和拟合效果，而且具有良好的预测功能.
nlc202309041803
参考文献
[1] 赵 昕， 鲁琪鑫. 海洋经济预测模型的创新研究[J]. 统计与决策， 2013， 29（3）： 31-33.
[2] 王泽昊，潘虹. 灰色系统模型在我国人口预测中的应用[J]. 统计与决策， 2005， 21（1）： 19.
[3] 刘双印. 免疫人工鱼群神经网络的经济预测模型[J]. 计算机工程与应用， 2009，45（29）：226-229.
[4] 范国兵. 一种估计Logistic模型参数的方法及应用实例[J]. 经济数学， 2010， 27（1）：105-110.
[5] 饶从军. 基于灰色系统理论的新型经济预测模型[J]. 统计与决策， 2007， 23（6）： 25-26.
[6] 沈存根， 周开军， 王宏华. 正权重组合预测模型及其在经济中的应用[J]. 经济数学， 2010， 27（1）：85-91.
[7] J M BATES， C W J. GRANGER. The combination of forecasts [J]. Operational Research Quarterly， 1969， 20（20）：451-468.
[8] C W J. GRANGER， R. RAMANATHAN. Improved methods of forecasting [J]. Journal of Forecasting， 1984， 3（3）：197-204.
[9] C W J. GRANGER. Invited review Combining forecasts-twenty years later [J]. Journal of Forecasting， 1989， 8（8）：167-173.
[10]唐小我，曹长修. 组合预测方法研究[J]. 控制与决策，1993， 8（1）：35-38.
[11]吕岗，陈小平，赵鹤鸣. 一种优化多层前向网络的IA-BP混合算法[J]. 计算机工程与应用，2003，39（27）：27-28.
[12]王建群，卢志华. 三层前向人工神经网络全局最优逼近[J]. 数学的实践与认识，2003，33（7）：1-8.
[13]孟凡超，张洪伟，徐剑. 基于遗传算法的BP神经网络在企业资信评估中的应用[J]. 计算机应用研究，2007，24（8）：301-304.
[14]李振涛，王淑玲，张国立. 利用遗传模拟退火算法优化神经网络结构[J]. 计算机工程与应用，2007，43（36）：74-77.
[15]王飞. 基于贝叶斯向量自回归的区域经济预测模型： 以青海为例[J]. 经济数学， 2011， 28（2）：95-100.
[16]曾喆昭，文卉. 数值计算[M]. 北京：清华大学出版社，2005.
[17]曾喆昭，黄创霞，周富照. 数值计算方法与应用[M]. 北京：科学出版社，2013.
[18]曾喆昭. 神经计算原理及其应用技术[M]. 北京：科学出版社，2012.
广义RLS算法 篇3
应用时域上的现代时间序列分析方法,基于ARMA新息模型和白噪声估计理论,由一种新的非递推最优状态估值器的`递推变形,提出了广义系统Wiener状态滤波的一种新算法,它可统一处理滤波、平滑和预报问题,且具有渐近稳定性.同某些算法相比,它避免了求解Riccati方程和Diophantine方程,且避免了计算伪逆,因而减小了计算负担.仿真例子说明了其有效性.
作 者：许燕 邓自立 作者单位：许燕(北京印刷学院,基础部,北京,102600)
邓自立(黑龙江大学,自动化系,黑龙江,哈尔滨,150080)