基于信赖域Newton算法的ELM网络

来源期刊：控制与决策2011年第5期

论文作者：韩敏 王新迎

文章页码：757 - 760

关键词：极端学习机;信赖域Newton法;共轭梯度法;回归;

摘    要：针对极端学习机（ELM）网络伪逆输出权值计算方法的运算复杂度制约其训练速度问题,提出一种基于信赖域Newton算法的新型ELM网络（TRON-ELM）,并采用信赖域Newton算法求解ELM网络的输出权值.该算法首先构造一个ELM网络代价函数的Newton方程,并将其作为一个无约束优化问题,采用共轭梯度法求解,避免了求代价函数Hessian矩阵逆的运算,提高了训练速度,信赖域条件的存在保证了算法的整体收敛性.仿真实验结果验证了所提出方法的有效性.