基于蚁群算法优化回声状态网络的研究

计算机工程与科学

基于蚁群算法优化回声状态网络的研究

宋绍剑，王尧，林小峰

（广西大学电气工程学院，广西南宁 530004）

收稿日期:2015-12-07 修回日期:2016-05-03 出版日期:2017-12-25 发布日期:2017-12-25
基金资助:
国家自然科学基金（61364007）;广西科学研究与技术开发计划（桂科攻14122007-33）;南宁市科学研究与技术开发计划（20141050）

Echo state network based on ant colony algorithm

SONG Shao-jian，WANG Yao，LIN Xiao-feng

(School of Electrical Engineering,Guangxi University,Nanning 530004，China)

Received:2015-12-07 Revised:2016-05-03 Online:2017-12-25 Published:2017-12-25

摘要/Abstract

摘要：

针对输出权值采用最小二乘法的回声状态网络（ESN），在随机选取输入权值和隐层神经元阈值时，存在收敛速度慢、预测精度不稳定等问题，提出了基于蚁群算法优化回声状态网络(ACO-ESN)的算法。该算法将优化回声状态网络的初始输入权值、隐层神经元阈值问题转化为蚁群算法中蚂蚁寻找最佳路径的问题，输出权值采用最小二乘法计算，通过蚁群算法的更新、变异、遗传等操作训练回声状态网络，选择出使回声状态网络预测误差最小的输入权值和阈值，从而提高其预测性能。将ACO-ESN与ELM、I-ELM、OS-ELM、B-ELM等神经网络的仿真结果进行对比，结果验证经过蚁群算法优化的回声状态网络加快了其收敛速度，改善了其预测性能，并增强了隐层神经元的敏感度。

关键词: 回声状态网络, 蚁群, 优化, 权值, 阈值

Abstract:

When the echo state network (ESN) based on the least squares method randomly selects the input weights and the neuron thresholds in hidden layers, the convergence speed is slow and the prediction accuracy is not stable. We propose a modified ESN based on ant colony algorithm (ACO-ESN). The optimization of the initial input weights and neuron thresholds in hidden layers can be changed into a problem of finding the best path by the ants in the ant colony algorithm. The output weights are calculated by the least squares method. The ESN is trained through update, variation and genetic operations of the ant colony algorithm, and the input weights and thresholds which have the minimum ESN prediction error are selected to increase the ESN's prediction performance. Compared with other 4 ELM neural networks, the simulation results show that the ESN optimized by the ant colony algorithm can accelerate the convergence speed, and improve its prediction performance and the sensitivity of the neurons in hidden layers.

Key words: echo state network(ESN), ant colony, optimization, weight, threshold

宋绍剑，王尧，林小峰. 基于蚁群算法优化回声状态网络的研究[J]. 计算机工程与科学.

SONG Shao-jian，WANG Yao，LIN Xiao-feng . Echo state network based on ant colony algorithm[J]. Computer Engineering & Science.

[1]	陈侨安1，李峰1，曹越1，龙明盛1,2. 基于运行数据分析的Spark任务参数优化[J]. J4, 20160101, 38(01): 11-19.
[2]	周兰凤1，赵鹏飞1，彭俊杰2. 基于云环境下一种小文件传输策略研究[J]. J4, 20160101, 38(01): 20-27.
[3]	施禹, 董攀, 张利军. 一种不规则稀疏矩阵的SpMV方法[J]. 计算机工程与科学, 2024, 46(07): 1175-1184.
[4]	王堃, 李少波, 何玲, 周鹏. 基于改进北方苍鹰优化随机配置网络的网络流量预测模型[J]. 计算机工程与科学, 2024, 46(07): 1245-1255.
[5]	张永智, 何可人, 戈珏. 改进YOLOv7网络在低空遥感图像目标检测中的应用[J]. 计算机工程与科学, 2024, 46(07): 1269-1277.
[6]	徐慧玲, 刘升, 李安东. 基于双向局部开发和黄金正弦的异构导向的鲸鱼优化算法[J]. 计算机工程与科学, 2024, 46(06): 1128-1140.
[7]	王颍超. 鲸鱼优化算法研究与应用进展[J]. 计算机工程与科学, 2024, 46(05): 881-896.
[8]	储旭, 宁爱兵, 胡开元, 代苏玉, 张惠珍. 最小支配阈值集问题的降阶回溯算法[J]. 计算机工程与科学, 2024, 46(05): 897-906.
[9]	卢明妤, 李陶深, 吕品. 无线携能通信下mmWave协作通信小单元的能效最优策略[J]. 计算机工程与科学, 2024, 46(04): 626-634.
[10]	梁昔明, 史兰艳, 龙文. 基于混合策略改进的蛇优化算法及其应用[J]. 计算机工程与科学, 2024, 46(04): 693-706.
[11]	刘向举, 李金贺, 方贤进, 王宇. 移动边缘计算中计算卸载与资源分配联合优化策略[J]. 计算机工程与科学, 2024, 46(03): 416-426.
[12]	刘振超, 苑迎春, 王克俭, 何晨. 融合特征权重与改进粒子群优化的特征选择算法[J]. 计算机工程与科学, 2024, 46(02): 282-291.
[13]	李雨恒, 高尚, 孟祥宇. 基于精英引导的改进哈里斯鹰优化算法[J]. 计算机工程与科学, 2024, 46(02): 363-373.
[14]	季俊豪, 张玉书, 赵若宇, 温文媖, 董理. 基于智能进化算法的可见水印对抗攻击[J]. 计算机工程与科学, 2024, 46(01): 63-71.
[15]	李中华, 袁杰, 郭振宇. 基于信息启发的目标导向Bi-RRT机器人路径规划[J]. 计算机工程与科学, 2023, 45(12): 2237-2245.