关于非线性激活函数的深度学习分类方法研究
来源期刊：江西理工大学学报2018年第3期
论文作者：杨国亮 许楠 李放 龚曼
文章页码：76 - 83
关键词：神经网络;激活;指数函数;深度学习;
摘 要：提出了一种非线性指数函数来作为深度神经网络的激活层,通过调节函数的参数,能够有效提高深层神经网络在分类任务中的测试精度和其他性能.在Cifar10/100数据库中使用最先进的架构进行训练,只通过更换激活函数并调节该函数中的参数能够实现更优的结果.实验结果表明所提出的非线性函数在深度学习中能够带来更好的泛化性能.
杨国亮，许楠，李放，龚曼
江西理工大学电气工程与自动化学院
摘 要：提出了一种非线性指数函数来作为深度神经网络的激活层,通过调节函数的参数,能够有效提高深层神经网络在分类任务中的测试精度和其他性能.在Cifar10/100数据库中使用最先进的架构进行训练,只通过更换激活函数并调节该函数中的参数能够实现更优的结果.实验结果表明所提出的非线性函数在深度学习中能够带来更好的泛化性能.
关键词：神经网络;激活;指数函数;深度学习;
