2026年03月13日:KARMA A Multilevel Decomposition Hybrid Mamba Framework for Multivariate Long-Term Time Series Forecasting
- 主页 /
- 通知公告 /
- 通知公告
2026年03月13日:KARMA A Multilevel Decomposition Hybrid Mamba Framework for Multivariate Long-Term Time Series Forecasting
【报告内容】
汇报人:张子牧
汇报单位:河海大学
主题:KARMA: A Multilevel Decomposition Hybrid Mamba Framework for Multivariate Long-Term Time Series Forecasting
1、Introduction
2、Method
3、Experiment
4、Conclusion
【报告总结】
1.待解决的问题描述
在复杂的时间序列预测任务中(尤其是面对现实世界中充满动态变化的传感器数据时),现有的方法面临两个核心痛点:
1)传统分解方法太僵化: 真实世界的数据既包含宏观的缓变趋势,又夹杂着高频的突发波动。传统的序列分解方法(如 STL)依赖于人工设定的固定窗口和刚性规则,面对周期动态变化的数据时,缺乏自适应能力。
2)时域与频域难以兼顾: 现有的深度学习模型大多只在单一的时域或频域下工作。如果只看时域,容易被高频噪声干扰而丢失长程依赖;如果只看频域(如纯粹的傅里叶变换),又会完全丢失事件发生的先后顺序特征。
2.相关创新方案
为了解决上述问题,作者提出了一种基于 Mamba 的混合频时分析框架 (KARMA)。其核心创新点可以拆解为两套组合拳:
1)创新一:ATCD (自适应时域-通道分解模块)
彻底抛弃了传统的 STL 分解,转而利用多头自注意力机制 (MHA) 作为全局滤波器。它通过数据驱动的方式,自适应地在全局时间步中寻找相似性,动态提取出极其平滑的全局趋势 (Trend),并将剩余的残差作为局部周期项 (Seasonal)。
2)创新二:HFTD (混合频时动态处理模块)
○频域引入: 对分离出的周期项使用离散小波变换 (DWT),将其进一步拆解为保留了时间先后顺序的高频系数和低频系数。
○多支路 Mamba 并行处理: 设计了包含 3 个平行 Mamba 的 KarmaBlock,分别专门处理高频(捕捉突变规律)、低频(捕捉周期规律)和纯时域残差,最后再结合处理全局趋势的 Global Mamba 进行特征融合。
○架构细节优化: 在 Mamba 块的入口处使用 RMSNorm 替代传统 LayerNorm,既保护了特征向量的物理方向,又榨取了极致的计算速度。同时利用翻转操作赋予了 Mamba 处理时域特征时的双向感知能力。
3.实验总结
1)性能表现: KARMA 在多个真实世界的主流基准数据集(如电力 ETT、天气 Weather 等)上均取得了 SOTA(最优)的预测误差表现。
2)消融实验验证: 实验强有力地证明了“用 MHA 替换 STL 分解”能显著降低误差;同时,缺失了高频、低频或时域任何一条 Mamba 支路,都会导致模型性能的明显下降,证明了混合频时架构的必要性。
3)局限性暴露: 作者在实验分析中也坦诚,当处理极高维度的数据(如包含八百多个变量的 Traffic 交通数据集)时,模型性能会出现轻微下滑。这主要是因为 ATCD 模块在处理过多的变量通道时,注意力机制可能会引入额外的交叉噪声。
4.未来工作
结合论文的结论以及该领域的发展趋势,KARMA 框架未来的演进方向主要集中在以下两点:
1)向大规模通用模型迈进: 论文明确指出,未来的核心工作将是探索构建用于“少样本 (Few-shot)”和“通用目的”的大规模时间序列模型(即 Time-Series Foundation Models)。让 Mamba 具备跨领域的零样本泛化能力。
2)高维通道的解耦优化: 针对实验中暴露的高维数据集性能下降问题,未来可以考虑引入通道独立性 (Channel Independence),或者使用稀疏注意力机制来屏蔽无关通道的干扰,进一步提升模型在高并发传感器场景下的鲁棒性。
报告时间:2026年03月13日19:30
腾讯会议:311-5999-8176
点我下载本讨论课相关文献或PPT吧~(提取码:iipr)