基于单隐层前馈神经网络的优化算法

作     者：李娜 刘冰 王伟 LI Na;LIU Bing;WANG Wei

作者机构：安阳师范学院计算机与信息工程学院 安阳工学院计算机科学与信息工程学院安阳455000 哈尔滨工业大学电气工程与自动化学院哈尔滨150001 

出 版 物：《科学技术与工程》 (Science Technology and Engineering)

年 卷 期：2019年第19卷第1期

页      面：136-141页

学科分类：080804[工学-电力电子与电力传动] 0808[工学-电气工程] 08[工学] 

基　　金：国家自然科学基金(61034926) 河南省高等学校重点科研项目(15A520037)资助 

主　　题：前馈神经网络 神经网络训练 进化算法 遗传算法 

摘      要：前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。