本模型的实现始于严谨的数据预处理与特征构建阶段。系统优先尝试从“电热冷气负荷数据.xlsx”中加载真实能源负荷数据;若文件缺失,则自动生成包含电、气、冷、热四类负荷的合成数据集——通过叠加正弦函数模拟日周期性,并引入随机噪声以逼近现实波动。随后,采用滑动窗口技术构造多变量输入与多输出的时序样本对,有效保留时间依赖结构。在特征工程方面,模型融合原始负荷值、周期性时间编码(小时与星期的正余弦变换)、滞后项(1/2/3/6步)及移动平均(3/6步)等多维特征,全面刻画序列的趋势性、周期性与时变特性。所有特征经MinMaxScaler归一化至[0,1]区间,既消除量纲差异,又加速训练收敛。最终,数据按80%–20%划分为训练集与测试集,并转换为三维张量格式(样本×时间步×特征),为多任务学习提供结构化输入。
模型核心创新在于将自适应峰谷感知(APVP)模块深度嵌入多头注意力(MHA)与LSTM的混合架构中。输入首先经Dense层投影至64维隐空间并标准化,随后进入APVP模块:该模块利用两个1D卷积核分别检测局部峰值与谷值——其中谷值检测通过对输入取负转化为峰值识别问题,极大简化实现逻辑。关键在于引入可学习参数α,动态调节峰谷敏感权重与常规注意力的融合比例,生成[0,1]范围内的自适应加权系数。这些权重被扩展后与MHA中的注意力分数逐元素相乘(scaled_attention_logits × (1 + pv_weights_expanded)),显著增强波峰波谷时段的关注度。MHA本身采用标准缩放点积注意力,分多头并行计算Q/K/V,再经softmax与值矩阵加权聚合。最终,注意力输出与LSTM(64维隐藏状态,含0.2 Dropout)通过残差连接融合,形成兼顾长期依赖与关键转折点的混合表征。多任务学习通过共享主干网络、分支独立输出头(每任务含32维ReLU层+线性层)实现四类负荷同步预测,在提升参数效率的同时保留任务特异性。
为强化对峰谷关键点的预测能力,模型采用定制化的峰谷加权损失函数:在基础MSE上,依据真实值偏离局部均值的程度动态赋权——偏差越大(即越接近极值点),损失权重越高(最高达1.5倍),引导模型聚焦难预测时段。训练策略集成Adam优化器(初始lr=0.001)、EarlyStopping(耐心15轮,恢复最优权重)与ReduceLROnPlateau(验证损失停滞8轮后降lr至最低1e-6),配合32批量大小与20%验证集,在100轮内高效收敛。评估阶段,预测结果经反标准化后,针对每类负荷独立计算RMSE、MAE、MAPE(防除零加1e-8)和NRMSE四项指标,并汇总平均性能。该多维度评价体系不仅量化整体精度,还支持跨任务、跨模型的细粒度对比,全面验证了APVP-MHA-MTL架构在复杂多变量负荷预测中的准确性、鲁棒性与泛化优势。
代码获取方式:扫描下方二维码