logo

SWUFE数学讲坛146:Multi-Attn BLS:基于宽度学习与多头注意力机制的混沌时间序列预测方法

发布时间:2023年05月08日 10:40 发布人:

主题Multi-Attn BLS:基于宽度学习与多头注意力机制的混沌时间序列预测方法

主讲人重庆理工大学苏理云教授

主持人金沙检测线路js69(科技)有限公司徐凤副教授

时间2023年5月19日(周五)15:30

地点:柳林校区通博楼B412会议室

主办单位:金沙检测线路js69(科技)有限公司科研处

主讲人简介:

2007年获四川大学概率论与数理统计博士学位,现为重庆理工大学理学院统计与数据科学系主任、教授,统计学硕士生导师,应用统计专业硕士生导师,MBA硕士生导师,丹麦奥尔堡大学访问学者,重庆数学学会常务理事。已在《人口研究》、《数理统计与管理》、《电子学报》、《物理学报》、《Applied Soft Computing》、《Digital Signal Processing》、《Mechanical Systems and Signal Processing》、《Computers & Mathematics with Applications》等国内外重要期刊发表论文50余篇,其中SCI收录30余篇。主持国家社科基金、教育部人文社科基金、重庆市自然科学基金等省部级及以上项目10余项。2022年获重庆市社会科学优秀成果二等奖,主持重庆市教育教学改革重大项目1项,重庆市应用统计研究生联合培养基地负责人,重庆市一流课程《概率论》负责人。

内容提要:

由于混沌时间序列的复杂性和非线性,一般深度学习网络实现高精度的预测往往存在一些不足。与一般深度学习模型不同,具有注意力机制的宽度学习系统(BLS)表现出独特而卓越的模式预测能力。宽度学习系统已经被成功地应用于许多领域。针对混沌时间序列的预测,基于多头注意力机制与宽度学习的特征增强特性,提出了一种用于混沌时间序列预测的具有多头注意机制的BLS(Multi-Attn BLS),以进一步提高预测精度。我们的模型开发了一个新的框架,将宽度学习的特征增强与多头注意力机制相结合。首先,将接收到的数据重建为固定大小的元组,将确定了嵌入维度和时间延迟的多维数组用作宽度学习网络的输入。随后,将具有时空多头注意机制的鲁棒宽度学习模型(即Multi-Attn BLS)用来刻画混沌时间序列的内部动态演化。Multi-Attn-BLS模型不仅可以捕获非线性混沌时序数据中的关键时空特征信息,且能实现高预测性能。同时该模型在实际的非线性复杂系统中也具有很好的泛化能力,与传统一些模型相比较,表现出优异的性能。