一种回声状态网络的权值初始化方法
来源期刊：控制与决策2018年第2期
论文作者：王磊 乔俊飞 李晓理
文章页码：356 - 360
关键词：回声状态网络;奇异解;权值初始化;柯西不等式;线性代数;
摘 要：为了避免奇异解,提高网络性能,给出一种回声状态网络的权值初始化方法(WIESN).利用柯西不等式和线性代数确定优化的初始权值的范围与输入维数、储备池维数、输入变量和储备池状态相关,从而确保神经元的输出位于sigmoid函数的激活区域.实验结果表明,权值初始化方法的精度和训练时间要优于随机初始化方法,且相比于训练时间,权值初始化的时间是可以忽略不计的.
王磊，乔俊飞，李晓理
摘 要：为了避免奇异解,提高网络性能,给出一种回声状态网络的权值初始化方法(WIESN).利用柯西不等式和线性代数确定优化的初始权值的范围与输入维数、储备池维数、输入变量和储备池状态相关,从而确保神经元的输出位于sigmoid函数的激活区域.实验结果表明,权值初始化方法的精度和训练时间要优于随机初始化方法,且相比于训练时间,权值初始化的时间是可以忽略不计的.
关键词：回声状态网络;奇异解;权值初始化;柯西不等式;线性代数;
