1. 论文基本信息

1.1. 标题

Continual Learning for Time Series Forecasting: A First Survey (时间序列预测的持续学习：首次综述)

1.2. 作者

Quentin Besnard, Nicolas Ragot

1.3. 发表期刊/会议

该论文发表于 ITISE 2024 会议（第十届时间序列与预测国际会议），并在 Eng. Proc. (Engineering Proceedings) 期刊上以会议论文 (Proceeding Paper) 形式出版。Eng. Proc. 是 MDPI 出版社旗下的开放获取期刊，主要收录工程和应用科学领域的会议论文。

1.4. 发表年份

2024年7月17日

1.5. 摘要

深度学习在人工智能领域取得了显著进步，特别是在机器人、图像处理、声音处理等方面。然而，所有神经网络面临的一个共同主要挑战是其在学习过程中对数据的巨大需求。所需数据必须是定量且稳定的，以确保标准模型的正确计算。然而，由于动态环境的存在，许多实际应用往往无法满足这些约束。事实上，在这些环境中，数据分布甚至追求的目标都可能发生变化。这被称为数据漂移 (data drift) 和概念漂移 (concept drift)。持续学习 (Continual Learning) 领域的研究旨在通过实现能够随时间自适应演进的模型来解决这些挑战。这尤其涉及在可塑性/稳定性困境 (plasticity/stability dilemma) 中找到一个折衷点，同时考虑材料和计算约束。探索性工作在深度学习的所有应用中都有体现（图神经网络、强化学习等），但迄今为止，在时间序列的回归和预测场景中，相关工作仍然有限。本文旨在对持续学习应用于时间序列预测这一领域提供首次综述。

1.6. 原文链接

原文链接：/files/papers/690053ceed47de95d44a33ed/paper.pdf 该论文目前已在 hal.science (一个多学科开放获取的科学研究文档存储库) 提交并可访问，并已在 Eng. Proc. 期刊正式发表。

2. 整体概括

2.1. 研究背景与动机

当前深度学习模型在许多领域取得了巨大成功，但其核心挑战之一是对定量且稳定 (quantitative and stationary) 数据的巨大需求。然而，在许多现实世界的动态应用中，如机器人 (robotics)、图像处理 (imaging) 和声音处理 (sound processing) 等，数据分布 (data distribution) 或模型需要实现的目标 (goals to pursue) 会随时间发生变化，这被称为数据漂移 (data drift) 和概念漂移 (concept drift)。传统的深度学习模型在面对这些非稳态环境 (nonstationary environments) 时，往往会出现性能下降，甚至需要进行完全重新训练 (complete retraining)，这不仅计算成本高昂，而且可能导致模型遗忘 (forgetting) 之前学到的知识。

为了解决这一问题，持续学习 (Continual Learning, CL) 应运而生。持续学习旨在开发能够随时间推移不断学习和适应的模型，从而避免灾难性遗忘 (catastrophic forgetting)，并在可塑性/稳定性困境 (plasticity/stability dilemma) 中找到平衡点。可塑性 (plasticity) 指的是模型适应新知识的能力，而 稳定性 (stability) 则指其保留旧知识的能力。

尽管持续学习在深度学习的许多应用（如图神经网络 (graphs)、强化学习 (reinforcement learning)、分类 (classification) 等）中已展现出探索性努力，但作者观察到，将其应用于时间序列预测 (time series forecasting) 领域的工作相对较少。时间序列预测在能源、经济、气象等领域具有广泛的应用，且其数据通常具有非稳态性。因此，该论文的动机在于填补这一空白，对持续学习在时间序列预测中的应用进行首次全面综述，以期推动该领域的研究和发展。

2.2. 核心贡献/主要发现

该论文的核心贡献在于提供了一份关于持续学习应用于时间序列预测领域的首次全面综述。具体来说，其主要发现和贡献包括：

• 识别挑战与需求： 明确指出了传统深度学习在面对非稳态时间序列数据时遇到的挑战，即数据漂移 (data drift)、概念漂移 (concept drift) 和灾难性遗忘 (catastrophic forgetting)，并强调了持续学习在解决这些问题上的潜力。
• 梳理持续学习原理与策略： 详细阐述了持续学习的核心原理，特别是可塑性/稳定性困境 (plasticity/stability dilemma)，并总结了应对灾难性遗忘 (catastrophic forgetting) 的三大主流策略：数据重放 (data rehearsal)、参数正则化 (parameter regularization) 和模型扩展 (model extension)，以及它们的优缺点。
• 对比分类与时间序列场景： 分析了持续学习在分类 (classification) 任务中常见的增量任务学习 (Task Incremental Learning)、增量类别学习 (Class Incremental Learning) 和增量领域学习 (Domain Incremental Learning) 场景，并将其与时间序列预测 (time series forecasting) 中遇到的数据域增量学习 (Incremental learning of the data domain) 和目标域增量学习 (Incremental learning of the target domain) 场景进行了对比，指出了时间序列领域在任务定义和管理上的特殊性。
• 分析现有应用案例与效果： 总结了持续学习在时间序列预测中的现有应用领域（如能源、工业维护、气候、交通分析），并通过引用具体研究案例展示了持续学习模型在预测准确性和遗忘率方面的优势，尤其是在面对非稳态数据时。
• 提出未来趋势与挑战： 指出了该领域的两大研究趋势（模型演化与策略融合、生物启发方法）以及一系列未来挑战，包括：复杂模型（如 Transformer (Transformer)、自编码器 (Autoencoder)）的适应、通用基准测试 (benchmarks) 的缺失、无任务 (task-free) 解决方案的需求、新评估指标的开发（如遗忘率 (forgetting rate)、稳定性/可塑性 (stability/plasticity)）、资源消耗 (resource consumption) 的评估以及模型可解释性 (explainability) 的提升。
• 呼吁标准化与拓展： 强调了建立通用基准测试的重要性，以便更客观地评估不同持续学习方法在时间序列预测中的性能，并鼓励将持续学习应用于更广泛的领域，如医学和环境研究。

3. 预备知识与相关工作

3.1. 基础概念

理解本文需要掌握以下核心概念：

• 深度学习 (Deep Learning, DL)：一种机器学习方法，通过模拟人脑神经网络的结构和功能来从大量数据中学习。其核心在于多层非线性变换，能够自动提取数据的复杂特征。
• 神经网络 (Neural Networks, NN)：深度学习模型的基础，由相互连接的节点（神经元）组成，这些节点分层排列，通过学习数据中的模式来完成特定任务。
• 时间序列预测 (Time Series Forecasting, TSF)：利用历史时间序列数据来预测未来值的技术。时间序列数据是按时间顺序排列的数据点集合，常见于金融、气象、能源等领域。
• 非稳态环境 (Nonstationary Environments)：指数据或其底层生成过程随时间变化的系统。在这种环境中，数据分布、统计特性或任务目标会发生改变。
• 数据漂移 (Data Drift)：数据输入特征的分布随时间变化的现象。例如，传感器读数的平均值或方差发生变化。
• 概念漂移 (Concept Drift)：数据与目标变量之间关系（即模型需要学习的函数）随时间变化的现象。例如，在同一组输入特征下，输出标签或预测目标发生改变。
• 持续学习 (Continual Learning, CL)：又称增量学习 (Incremental Learning) 或终身学习 (Lifelong Learning)，旨在使模型能够在不遗忘先前学到知识的前提下，顺序地学习新任务或适应新数据。其目标是让模型像人类一样，能够不断地获取和整合新知识。
• 灾难性遗忘 (Catastrophic Forgetting)：神经网络在学习新任务时，其在旧任务上性能急剧下降的现象。这是持续学习领域的核心挑战。当模型权重为适应新任务而更新时，与旧任务相关的权重信息可能被覆盖或破坏，导致旧知识的丢失。
• 可塑性/稳定性困境 (Plasticity/Stability Dilemma)：持续学习中的一个核心矛盾。可塑性 (Plasticity) 指的是模型快速适应新任务或新数据的能力；稳定性 (Stability) 指的是模型保留旧知识不被遗忘的能力。过度追求可塑性会导致灾难性遗忘，而过度追求稳定性则会阻碍模型学习新知识。持续学习的目标是在两者之间找到一个最佳平衡点。
• 微调 (Fine-tuning)：在预训练模型的基础上，使用特定任务的数据进行少量训练，以调整模型参数，使其适应新任务。在持续学习的语境下，单纯的微调往往会导致灾难性遗忘。

3.2. 前人工作

论文在引言和第二节“持续学习原理”中概述了持续学习领域的一些关键前人工作和主要策略：

• 应对灾难性遗忘的三大策略：
  • 重放策略 (Rehearsal Strategy)：通过重复学习过去数据的一部分来防止遗忘。例如，[1]、[13]、[27-29] 等研究。
  • 基于正则化的策略 (Regularization-based Strategy)：通过对模型参数施加惩罚，以限制对在旧任务中重要的参数的修改。例如，弹性权重整合 (Elastic Weight Consolidation, EWC) 算法 [12, 33, 34] 就是该策略的代表。
  • 结构化策略 (Structural Strategy) / 模型扩展 (Model Extension)：模型会随着遇到新任务而增长，避免修改用于处理先前任务的网络部分。例如，[30, 31] 等工作。
• 持续学习在不同应用中的探索：
  • 图神经网络 (Graphs)：[20]
  • 强化学习 (Reinforcement Learning)：[21, 22]
  • 分类任务 (Classification Tasks)：这是持续学习研究最活跃的领域，特别是在图像分类 (imagery)、自然语言处理 (natural language processing) 和医学 (medicine) 等领域。论文提到了三种经典的增量学习场景：
    • 增量任务学习 (Task Incremental Learning)：模型按顺序学习解决一系列不同的任务。
    • 增量类别学习 (Class Incremental Learning)：模型学习辨别逐渐观察到的新类别。
    • 增量领域学习 (Domain Incremental Learning)：模型在不同上下文中学习解决相同的问题。
  • 回归任务 (Regression Tasks)：[7] 等少数研究。
• 时间序列预测中的持续学习： 论文指出，尽管已有少数研究探索将持续学习应用于时间序列预测（如 [24, 27, 29, 39-46]），但该领域仍处于起步阶段，并且缺乏统一的基准测试 (benchmarks)。一些研究如 [47] 尝试通过损失分析来解决任意任务定义的问题，提出无任务 (Task-free) 方法。

3.3. 技术演进

该领域的技术演进可以概括为：

1. 传统深度学习的局限性： 早期深度学习模型主要关注在固定、静态数据集上达到最优性能，假设数据分布是稳定的。然而，这种模型在动态环境中表现不佳，容易出现灾难性遗忘 (catastrophic forgetting)。
2. 持续学习的兴起： 随着对人工智能在现实世界应用中适应性的需求增加，研究开始探索如何让模型能够像人类一样持续学习。灾难性遗忘 (catastrophic forgetting) 成为了核心挑战，并催生了重放 (rehearsal)、正则化 (regularization) 和模型扩展 (model extension) 等核心策略。
3. 主流聚焦于分类任务： 持续学习的研究主要集中在分类 (classification) 任务上，并发展出了一系列标准化的基准数据集 (benchmark datasets)（如 MNIST、CIFAR）和评估场景（增量任务 (Task Incremental)、增量类别 (Class Incremental)、增量领域 (Domain Incremental)），极大地推动了该领域的发展。
4. 向时间序列领域的拓展： 认识到时间序列数据固有的非稳态性及其在关键应用中的重要性，持续学习的研究开始尝试向时间序列预测 (time series forecasting) 领域拓展。然而，由于时间序列的特殊性（如任务定义不明确、数据持续演变而非明确的任务边界），该领域的进展相对滞后，缺乏统一的方法论和评估标准。
5. 当前挑战与未来方向： 现阶段的挑战在于如何将复杂且成功的深度学习模型（如Transformer (Transformer)、自编码器 (Autoencoder)）与持续学习策略相结合，并为时间序列预测开发无任务 (task-free) 的解决方案、统一的基准测试 (benchmarks) 和更全面的评估指标。

3.4. 差异化分析

本文的工作与相关工作的主要区别和创新点在于：

• 首次系统性综述： 论文明确指出其目标是“提供一个关于持续学习应用于时间序列预测领域的首次综述 (a first survey on this field of continuous learning applied to time series forecasting)”。这意味着它试图系统地梳理和整合该领域分散的研究，为后续研究提供一个全面的起点和路线图。
• 聚焦时间序列预测： 尽管持续学习在分类 (classification) 等其他深度学习应用中已有大量研究，但本文的独特之处在于其完全聚焦于时间序列预测 (time series forecasting) 这一特定且挑战性高的领域。时间序列的非稳态性、任务定义的模糊性以及回归任务的特点，使其与分类任务的持续学习有显著差异。
• 强调领域特殊性： 论文深入分析了时间序列预测中持续学习的独特场景，如数据域增量学习 (Incremental learning of the data domain) 和目标域增量学习 (Incremental learning of the target domain)，并指出这些场景与分类任务中的增量学习场景（如增量任务学习 (Task Incremental Learning)）存在差异。
• 识别并提出现有挑战： 通过对现有文献的分析，论文不仅总结了已有的方法和成就，更重要的是识别并突出了该领域尚未解决的关键问题，例如缺乏通用基准测试 (benchmarks)、无任务 (task-free) 解决方案的稀缺性、以及现有指标对持续学习特性（如遗忘率 (forgetting rate) 和可塑性/稳定性 (plasticity/stability)）描述不足的问题。

4. 方法论

该论文本身是一篇综述，因此其“方法论”并非提出新的算法，而是对持续学习 (Continual Learning) 的核心原理、策略及其在时间序列预测 (Time Series Forecasting) 中的应用进行分类、分析和总结。

4.1. 方法原理

持续学习的核心原理在于解决深度学习模型在非稳态环境 (nonstationary environments) 中学习新知识时面临的灾难性遗忘 (catastrophic forgetting) 问题。这个问题与可塑性/稳定性困境 (plasticity/stability dilemma) 密切相关。

• 可塑性 (Plasticity) 与稳定性 (Stability)：

  • 稳定性 (Stability)：当模型从固定数据集学习时，它能够保持高精度。如果数据分布不变，稳定模型能很好地预测结果。然而，它无法适应数据分布或目标的变化。

  • 可塑性 (Plasticity)：模型能够持续快速地适应新任务和新数据。这是持续学习的主要优势之一。

  • 困境 (Dilemma)：过度的可塑性 (plasticity) 会导致模型失去保留旧知识的能力，即发生灾难性遗忘 (catastrophic forgetting)。当模型随时间演进以适应新数据时，其在先前见过的数据上的准确性会下降。

    持续学习的目标是找到一个折衷方案，使模型既能适应新知识（保持可塑性 (plasticity)），又能保留旧知识（保持稳定性 (stability)），同时尽量避免灾难性遗忘 (catastrophic forgetting)，并且要考虑计算资源（内存、时间、模型大小等）的约束。

4.2. 核心方法详解 (Continual Learning Strategies)

为了解决灾难性遗忘 (catastrophic forgetting) 问题，持续学习文献中引入了三种主要策略：数据重放 (data rehearsal)、参数正则化 (parameter regularization) 和模型扩展 (model extension)。

4.2.1. 数据重放 (Data Rehearsal)

• 原理与目标：
  • 数据重放 (Data Replay) 的核心思想是在学习新数据时，不断地将过去数据的样本重新引入到学习步骤中，以适应模型 [25]。
  • 其目标是通过持续刺激模型以旧知识来防止遗忘。
• 优点与缺点：
  • 优点：这种方法通常在模型准确性方面产生最佳结果。
  • 缺点：它会导致模型需要处理的数据量不断增加，从而带来内存 (memory) 和计算 (computational) 负担。因此，近期研究正关注无重放 (rehearsal-free) 版本 [26]。
• 变体：在数据管理方面，有多种轴向可以研究，例如如何选择要重新引入的数据样本 [13, 27-29]。

4.2.2. 模型扩展 (Model Extension)

• 原理与目标：
  • 模型扩展 (Architectural Modification) 或称结构化策略 (Structural Strategy) [30, 31]，涉及根据需求直接调整模型架构。
  • 当模型遇到新任务时，其层的大小会增长，同时避免修改网络中用于管理先前任务的部分。
  • 通过避免修改先前学习的权重，可以确保在先前学习的任务上性能不下降。
• 优点与缺点：
  • 优点：在旧任务上不会出现性能损失。
  • 缺点：与数据重放 (data replay) 策略类似，其主要缺点是模型大小的持续增长。
• 缓解策略：可以通过引入剪枝机制 (pruning mechanism) [32] 来解决模型增长问题，以移除网络中不再需要的组件。然而，这一过程尚不成熟，并且在性能方面仍有不足。

4.2.3. 参数正则化 (Parameter Regularization)

• 原理与目标：
  • 参数正则化 (Regularization Approach) 通过对神经网络权重的修改进行惩罚，惩罚的力度取决于这些权重对模型准确性的影响。
  • 其目标是选择一个最佳的权重空间，以处理所有先前学习的任务。
• 典型算法：弹性权重整合 (Elastic Weight Consolidation, EWC) 算法 [12, 33, 34] 是该策略的代表。它在模型更新过程中通过Fisher 矩阵 (Fisher matrix) 计算模型损失，从而在不对网络或数据进行增长的情况下工作。
• 优点与缺点：
  • 优点：不需要网络或数据重放增长，具有长期潜力。
  • 缺点：如果学习的任务过于不相交，可能导致模型提供一个平均化的版本，在所有任务上都达到最低性能，但没有在任何一个任务上表现出色。

4.2.4. 混合策略 (Hybrid Versions)

上述三种主要策略也可以结合使用，形成混合策略 (hybrid versions)，例如将正则化 (regularization) 与数据重放 (data replay) 相结合，以寻求最佳性能 [17, 19, 35-37]。

4.3. 任务管理场景

持续学习研究主要集中在分类 (classification) 任务上，并识别了三种场景来适应模型：

• 增量任务学习 (Task Incremental Learning)：模型按顺序学习解决一系列不同的任务。一个“任务”与在特定上下文中实现某个目标相关联，如果上下文或目标发生变化，则视为切换任务。

• 增量类别学习 (Class Incremental Learning)：模型学习辨别逐渐观察到的新类别。

• 增量领域学习 (Domain Incremental Learning)：模型学习在不同上下文（例如不同光照条件下的图像）中解决相同的问题。

  然而，在时间序列预测 (forecasting domain) 中，通常会遇到两种不同于分类领域的场景 [38]：

• 数据域增量学习 (Incremental learning of the data domain)：指底层数据生成过程随时间变化的情况，这是由于数据流的非稳态性 (nonstationarity) 造成的。这意味着相同目标的数据分布随时间而变化。

• 目标域增量学习 (Incremental learning of the target domain)：指模型输出随时间变化的情况。例如，预测目标的数量或属性发生变化（如多输出网络中预测新变量，或时间预测范围发生变化）。

  值得注意的是，文献中关于回归 (regression) 和预测 (forecasting) 的持续学习并未解决分类问题中定义的增量任务场景 (task incremental scenario)。在时间序列领域，“任务”一词通常指的是上述两种场景中的一种（目标域 (target domain) 或数据域增量学习 (data domain incremental learning)）。

4.4. 任务定义方法

在时间序列的持续学习中，任务管理 (task management) 是一个重要议题。

• 基于任务的方法 (Task-based Approaches)：

  • 大多数关于时间序列持续学习的研究工作通过任意地将数据集分离成固定大小的子集来管理任务，每个子集对应一个新任务 [24, 27, 29, 39-46]。
  • 这种方法虽然在评估 CL 系统时具有操作性和实用性，但可能无法代表任务之间真实的过渡。它主要依赖于增量学习 (incremental learning) 方法，其中任务的添加使得模型能够通过数据进行改进，而灾难性遗忘 (catastrophic forgetting) 的管理则完全依赖于所实施的策略。

• 无任务方法 (Task-free Approaches)：

  • 正确的任务管理 (task management)（无论是基于专家对系统的显式监督，还是基于数据本身的无监督监督）可以帮助模型避免灾难性遗忘 (catastrophic forgetting)（包括在重放 (rehearsal) 方法中更好地选择重放数据，或在正则化 (regularization) 方法中正确选择要保留的权重），并更精确地处理可塑性/稳定性困境 (plasticity/stability dilemma)。
  • [47] 专门讨论了任意任务定义的问题，并提出了一种通过模型学习过程中的损失分析 (loss analysis) 来检测新任务的系统。
  • [35] 等其他研究工作提出了基于数据与预测精度之间距离的“新颖性数据缓冲区 (novelty data buffer)”的概念。

5. 实验设置

由于这是一篇综述性论文，它本身并没有进行原创性的实验来验证新提出的方法。相反，它通过引用和分析现有研究的实验结果来支撑其论点。因此，本节将根据论文中引用的实验来描述其常见的实验设置。

5.1. 数据集

论文中提及的持续学习应用于时间序列预测的实验主要在以下领域和相应的数据集上进行：

• 能源领域 (Energy Domain)：这是最主要的应用领域 [24, 35, 36, 39-41, 46]。例如，用于风力发电量预测 (wind farm energy production) [35] 和建筑能耗预测 (building energy prediction) [39]。

• 工业维护 (Industrial Maintenance)：例如，用于预测设备故障或维护需求 [36, 43]。

• 气候分析 (Climatic Analysis)：例如，温室模型 (greenhouse models) [36, 42, 45]。

• 交通分析 (Traffic Analysis)：例如，交通流量预测 (traffic analysis) [27, 36]。

  数据集特点和面临的挑战：

• 领域多样性：每个应用领域都使用不同的数据集，这导致了不同模型之间难以进行直接比较。

• 非稳态性：这些数据集普遍存在数据漂移 (data drift) 和概念漂移 (concept drift)，如风力发电数据中的日周期和年周期，以及由气候变化引起的额外波动。

• 缺乏标准化基准：论文强调，与分类 (classification) 领域不同，时间序列持续学习领域缺乏统一的标准化基准数据集 (standardized databases)，这阻碍了新模型性能的客观评估和比较。

5.2. 评估指标

论文中提及或隐含用于评估持续学习模型在时间序列预测任务中性能的指标主要包括：

5.2.1. 均方误差 (Mean Squared Error, MSE)

• 概念定义 (Conceptual Definition)：MSE 是衡量预测值与真实值之间差异的常用回归指标。它计算预测误差的平方的平均值。MSE 对较大的误差给予更高的惩罚，因为它对误差进行了平方。MSE 的值越小，表示模型的预测精度越高。
• 数学公式 (Mathematical Formula)： $$\mathrm{MSE} = \frac{1}{n} \sum_{i=1}^{n} (Y_i - \hat{Y}_i)^2$$
• 符号解释 (Symbol Explanation)：
  • $n$：数据点的总数。
  • $Y_i$：第 $i$ 个数据点的真实值。
  • $\hat{Y}_i$：第 $i$ 个数据点的预测值。

5.2.2. 决定系数 (Coefficient of Determination, $R^2$)

• 概念定义 (Conceptual Definition)：$R^2$ 用于衡量模型对因变量变化的解释程度。它表示因变量的总变异中能被自变量解释的比例。$R^2$ 的值通常介于 0 到 1 之间，越接近 1 表示模型拟合效果越好。它在 Figure 1 中作为性能指标出现。
• 数学公式 (Mathematical Formula)： $$R^2 = 1 - \frac{\sum_{i=1}^{n} (Y_i - \hat{Y}_i)^2}{\sum_{i=1}^{n} (Y_i - \bar{Y})^2}$$
• 符号解释 (Symbol Explanation)：
  • $n$：数据点的总数。
  • $Y_i$：第 $i$ 个数据点的真实值。
  • $\hat{Y}_i$：第 $i$ 个数据点的预测值。
  • $\bar{Y}$：真实值的平均值。

5.2.3. 遗忘率 (Forgetting Ratio)

• 概念定义 (Conceptual Definition)：遗忘率 是一个专门用于评估持续学习模型灾难性遗忘 (catastrophic forgetting) 程度的指标。它量化了模型在学习新任务后，对先前任务性能的下降程度。论文中引用了 [41] 提出的计算方法。
• 数学公式 (Mathematical Formula)： $$forgetting\ ratio = \frac{max(0, L_{warm\_up}^2 - L_{warm\_up}^1)}{L_{warm\_up}^1}$$
• 符号解释 (Symbol Explanation)：
  • $L_{warm\_up}^1$：在热身阶段 (warm-up phase) 结束时，模型在热身数据集 (warm-up dataset) 上的 MSE。这代表了模型在学习新任务之前对旧知识的掌握程度。
  • $L_{warm\_up}^2$：在更新阶段 (update phase) 结束时，模型在相同的热身数据集 (warm-up dataset) 上的 MSE。这代表了模型在学习新任务之后对旧知识的掌握程度。
  • $max(0, \cdot)$：确保遗忘率不为负值，即只有当性能下降时才计算遗忘。

5.2.4. 其他潜在指标

论文还提出了未来需要开发和关注的指标：

• 稳定性/可塑性 (Stability/Plasticity)：衡量模型适应新知识和保留旧知识之间平衡的指标。
• 资源消耗 (Resource Usage)：包括 CPU、GPU、内存 (memory) 和电力 (electricity) 消耗，用于评估持续学习策略的实际成本。

5.3. 对比基线

在持续学习应用于时间序列预测的背景下，对比基线模型主要包括：

• 标准模型 (Standard Models)：指在固定数据集上进行一次性训练的传统深度学习模型，不具备持续学习能力，容易在数据漂移 (data drift) 或概念漂移 (concept drift) 发生时性能下降。
• 微调 (Fine-tuning)：这是一种常见的适应策略，模型在学习新任务时，在旧模型基础上进行少量调整。然而，论文指出，微调 (fine-tuning) 仍然存在灾难性遗忘 (catastrophic forgetting) 的问题，会导致旧任务的精度损失。
• 联合训练 (Joint-training)：这被认为是性能的上限 (upper bound)。它假设所有任务的数据在训练开始时都可用，并一次性对模型进行训练。在持续学习的语境中，它代表了模型在理想情况下能够达到的最佳性能，用于比较持续学习方法的近似程度。
• 无持续学习帮助的模型 (Models without Continual Learning aid)：特指那些没有采取任何策略来对抗灾难性遗忘 (catastrophic forgetting) 的标准模型，例如论文中提到的 baseline 模型。
• 其他持续学习模型：例如，论文中对比了 LWF、EWC、O-EWC 和 SI 等不同的持续学习算法 [41]。

6. 实验结果与分析

本节将根据论文中提供的图表和表格，分析持续学习在时间序列预测中的实验结果。

6.1. 核心结果分析

6.1.1. 微调、终身学习与联合训练的比较 (Figure 1)

以下是原文 Figure 1 的图像：

该图像是图表，展示了图1中用于顺序任务学习的微调、终身学习和联合训练三种方法在任务A、B、C上随训练轮数的表现对比，纵轴为预测性能指标$R^2$，横轴为训练轮数。

Figure 1 展示了在顺序任务学习场景中，微调 (fine-tuning)、终身学习 (lifelong learning) 和联合训练 (joint training) 三种方法的预测性能（$R^2$ 值）随训练轮数的变化。

• 联合训练 (Joint training)：代表了性能的上限 (upper bound)，因为它假设所有任务的数据在训练时都是可用的。其 $R^2$ 值在学习所有任务（A、B、C）后达到并保持最高水平。

• 终身学习 (Lifelong learning)：在图例中被标记为蓝色线条。它展示了接近联合训练 (joint training) 性能上限的能力，表明它能够有效地学习新任务的同时保留旧知识。

• 微调 (Fine-tuning)：在学习新任务时，其在旧任务上的性能（例如在任务 A 和 B 上）会显著下降，这体现了灾难性遗忘 (catastrophic forgetting) 的问题。

  分析：该图有力地证明了持续学习 (continual learning)（此处称为终身学习 (lifelong learning)）在对抗灾难性遗忘 (catastrophic forgetting)方面的优势。它能在学习新任务的同时，保持对先前任务的良好性能，明显优于简单的微调 (fine-tuning)策略。

6.1.2. 持续学习模型在数据和目标域增量场景中的性能比较 (Figure 2)

以下是原文 Figure 2 的图像：

该图像是图表，对比了数据域增量场景和任务域增量场景中多种算法在测试数据集上的平均均方误差（MSE）与训练时间（秒）。图中用不同颜色和形状标识Baseline、LWF、EWC、Online EWC和SI算法，展示它们在20次实验中的表现差异。

Figure 2 比较了在数据域增量 (data domain incremental) 和目标域增量 (target domain incremental) 场景中，不同持续学习算法（LWF、EWC、O-EWC、SI）与基线 (baseline) 模型在 20 次实验中的平均均方误差 (average MSE) 和学习时间 (learning time)。

• 性能优越性：图中点表示 MSE，方块表示训练期间每个任务的平均测试误差，星号表示训练所有任务后每个任务的平均测试误差。

  • 大多数持续学习模型（LWF、EWC、O-EWC、SI）的 MSE 值明显低于 baseline 模型，尤其是在所有任务训练完成后（星号）。这表明持续学习模型在处理数据和目标域变化时，能够实现更高的预测精度。

• 时间成本：这种性能提升通常伴随着学习时间 (learning time) 的累积增加。图中的 $y$ 轴（学习时间）显示，持续学习模型通常需要更长的训练时间，这反映了解决灾难性遗忘 (catastrophic forgetting)和平衡可塑性/稳定性困境 (plasticity/stability dilemma)所需的额外计算开销。

  分析：该图强调了持续学习模型在时间序列预测 (time series forecasting) 中处理数据漂移 (data drift) 和概念漂移 (concept drift) 的优越性，尽管可能需要付出更高的计算成本。

6.1.3. 遗忘率分析 (Figure 3)

以下是原文 Figure 3 的图像：

该图像是图表，展示了在数据域增量场景和任务域增量场景中，随着训练任务数量增加，对不同算法遗忘率的影响。横轴为训练任务数量，纵轴为遗忘率，包含Baseline、LWF、EWC、Online-EWC和SI五种算法性能对比。

Figure 3 展示了在数据域增量 (data domain incremental) 和任务域增量 (task domain incremental) 场景中，随着任务数量的增加，不同算法的遗忘率 (forgetting rate) 性能。遗忘率 的计算公式为： $$forgetting\ ratio = \frac{max(0, L_{warm\_up}^2 - L_{warm\_up}^1)}{L_{warm\_up}^1}$$ 其中 $L_{warm\_up}^1$ 是热身阶段结束时的 MSE， $L_{warm\_up}^2$ 是更新阶段结束时在同一数据集上的 MSE。

• 持续学习模型的低遗忘率：

  • 与没有对抗灾难性遗忘 (catastrophic forgetting) 机制的标准模型 (standard model)（Baseline）相比，持续学习模型（LWF、EWC、O-EWC、SI）的遗忘率 (forgetting rate) 显著降低。

  • 随着任务数量的增加，Baseline 模型的遗忘率急剧上升，而持续学习模型的遗忘率则保持在较低水平。

    分析：该图直接量化了持续学习在缓解灾难性遗忘 (catastrophic forgetting)方面的有效性，证实了其在保留旧知识方面的能力，这对长期运行的自适应系统至关重要。

6.1.4. 周期性数据集和风力发电数据集的案例分析 (Table 1 & Table 2)

论文引用了 [35] 的实验，探讨了在周期性数据集 (highly periodic datasets) 和风力发电数据集 (wind farm energy production) 上的表现。

• 周期性数据集的挑战：对于具有强周期性的人工数据集，持续学习模型可能因其可塑性 (plasticity) 而表现不如标准模型 (standard model)。在 [35] 的实验中，1120 个模型中只有 32.1% 的持续学习模型表现优于标准模型。这表明在高度周期性且稳定的环境中，持续学习可能引入不必要的适应性，反而影响性能。但如果参数设置得当，持续学习模型仍能接近标准模型的性能。

• 风力发电数据集的优势：然而，在具有数据漂移 (data shift) 的风力发电数据集 (wind farm energy production) 上的应用则显著展示了持续学习的优势。尽管该数据集具有日周期和季节周期，但气候变化带来了数据分布的额外波动。

  以下是原文 Table 1 的结果：

  	Fitting Error MSE (e-2)
  	Instance A	Instance B	Instance C	Baseline
  Mean	5.138	5.442	2.829	3.190

Table 1. Average MSE for the three instance of the same model over 10 wind farms forecasting datasets (Table 9—[35]). Model C is the CLeaR continual learning model (best in bold).

分析：

• 实例 A (Instance A)：代表标准模型 (standard model)。

• 实例 B (Instance B)：代表微调模型 (fine-tuned model)。

• 实例 C (Instance C)：代表 CLeaR 持续学习模型 (CLeaR continual learning model)。

• 从 Mean MSE 来看，实例 C (2.829) 显著优于实例 A (5.138)、实例 B (5.442) 以及基线 (Baseline, 3.190) 模型。这表明在面对具有气候变化引起数据漂移 (data shift) 的真实数据集时，持续学习模型（CLeaR）能够更有效地适应变化，实现更高的预测精度。

  以下是原文 Table 2 的结果：

  	Forgetting Ratio
  	Instance B (AE)	Instance C (AE)	Instance B	Instance C
  Mean	1.402	1.171	3.550	1.161

Table 2. Average forgetting ratio over the 10 wind farms forecasting datasets from CLeaR model instances (Table 11 —[35]).

分析：

• 实例 C（持续学习模型）在 AE (autoencoder) 部分的遗忘率 (forgetting ratio)（1.171）和预测器部分的遗忘率（1.161）都显著低于实例 B（微调模型）。
• 这突出表明，持续学习策略在防止知识遗忘 (knowledge forgetting) 方面具有显著贡献，尤其是在复杂的、具有数据漂移 (data shift) 的真实世界时间序列预测任务中。

6.2. 数据呈现 (表格)

以上在 6.1.4 节已完整转录并分析了原文 Table 1 和 Table 2。

6.3. 趋势与挑战

6.3.1. 主要研究趋势

当前持续学习在时间序列预测领域的研究呈现出两大主要趋势：

1. 模型演化与策略融合 (Model Evolution and Crossover of Strategies)：
   • 第一种趋势侧重于通过结合和演化不同的常见持续学习策略，以更有效地缓解灾难性遗忘 (catastrophic forgetting) [35]。这包括设计更精巧的重放 (rehearsal)、正则化 (regularization) 和模型扩展 (model extension) 机制，以及它们的混合版本。
2. 生物启发方法 (Biologically Inspired Approaches)：
   • 第二种趋势在结构层面独树一帜，通过实现受生物学启发的模型，旨在模仿生物体行为 [36]。这可能包括模拟大脑的学习和记忆机制，以实现更自然的持续学习能力。

6.3.2. 未来挑战

论文指出了持续学习在时间序列预测领域的几个关键挑战：

1. 适应复杂深度模型 (Adapting Complex Deep Models)：
   • 需要将诸如编码器-解码器系统 (encoder-decoder systems)、注意力机制 (attention mechanisms)、Transformer (Transformers) 和自编码器 (autoencoders) [49] 等复杂且流行的深度学习模型与持续学习策略相结合。这些模型已在图像和语言处理中展现出强大能力，并在时间序列数据处理中也显示出潜力 [24, 35, 36, 41, 43]。
2. 缺乏通用基准测试 (Lack of Common Benchmarks)：
   • 目前在时间序列持续学习文献中，缺乏统一的公共基准 (common benchmarks)。这使得不同研究之间难以进行公平、客观的性能比较和评估，阻碍了领域的发展。解决这个问题至关重要。
3. 任务定义与无任务解决方案 (Task Definition and Task-free Solutions)：
   • 大多数现有的灾难性遗忘 (catastrophic forgetting) 策略最初是为监督分类任务 (supervised classification tasks) 开发的，然后才被改编用于回归任务 (regression tasks)。
   • 这解释了为什么提出无任务 (task-free) 解决方案（其中任务不是预定义的）的研究论文数量较少。时间序列中的“任务”往往是隐性的，需要更多的无任务机制 (task-free mechanisms) 和用户交互。
   • 许多实现增量学习模型 (incremental learning models) 的论文 [50-55] 仅关注随时间自适应的方法，而未采用对抗灾难性遗忘 (catastrophic forgetting) 的策略。这表明了分类和回归之间在开发方面的差距有待弥补。
4. 开发新的评估指标 (Developing New Relevant Metrics)：
   • 需要开发新的相关指标来更好地描述持续学习策略下模型的有效性。这包括模型遗忘率 (model forgetting rate) 的概念，以及与模型学习过程中损失函数适应速度 (adaptation speed) 相关的稳定性/可塑性 (stability/plasticity) 指标。
5. 评估资源成本 (Evaluating Resource Cost)：
   • 提出与持续学习策略在资源使用 (resource usage) 方面的成本相关的补充措施（例如 CPU、GPU、内存 (memory)、电力 (electricity) 消耗）[56] 将具有重要意义。这可以提供与联合训练 (joint training) 等标准增量方法进行另一种比较的维度。
6. 模型可解释性 (Model Explainability)：
   • 目前建议提供解决方案以使模型结果可解释 (explainable) 和可理解 (interpretable)。这种可解释性 (explainability) 有助于理解模型的工作原理，并为所获得的结果提供合法性。虽然这在时间序列领域 [57, 58] 已有研究，但持续学习同时成为了一个新领域，也可能成为探索可解释性 (explainability) 的潜在来源。

7. 总结与思考

7.1. 结论总结

该综述论文强调，在时间序列预测 (time series forecasting) 领域，深度学习 (deep learning) 的应用仍在不断增长，而持续学习 (continual learning) 作为一种新兴技术，被视为解决动态环境中适应性 (adaptability) 和稳定性 (stability) 问题的关键。尽管深度学习模型本质上是增量式的，但其应用大多是静态的，通过分离的训练和测试批次来验证其能力。持续学习通过提供能够不断学习新知识同时保留旧知识的解决方案，以应对数据漂移 (data drift) 和概念漂移 (concept drift)，确保服务或模型的持续演进和相关性。

目前，分类任务 (classification tasks) 是持续学习研究的先行领域，获得了更多的关注。对抗灾难性遗忘 (catastrophic forgetting) 的三大主要方法集中在模型架构 (architecture)、数据重放 (replay) 和参数正则化 (parameter regularization)。这些方法为构建更适合特定应用场景的混合解决方案 (hybrid solutions) 奠定了基础。

近年来，持续学习策略已开始应用于时间序列预测 (time series forecasting)。该领域的一个关键点是如何处理模式重现 (patterns reoccurring) 以及如何避免灾难性遗忘 (catastrophic forgetting)。另一个关键问题在于任务 (tasks) 的概念，在时间序列中，任务通常是隐性的，且定义和管理不明确，这促使了对无任务机制 (task-free mechanisms) 和依赖于应用领域的用户交互的需求。

7.2. 局限性与未来工作

论文指出了当前持续学习在时间序列预测领域的几个重要局限性，并提出了未来的研究方向：

• 缺乏标准化基准测试 (Lack of Standardized Benchmarks)：这是当前该领域最突出的局限性。与分类领域不同，时间序列缺乏统一的、专门用于持续学习的基准数据集 (benchmark datasets)。未来工作需要提出并建立通用的基准，以便使用 MSE、MAE、RMSE 等标准指标以及遗忘率 (forgetting rate)、稳定性/可塑性 (stability/plasticity) 等领域特定指标来评估模型的性能。
• 任务定义和管理 (Task Definition and Management)：时间序列中的“任务”往往是隐性的，不如分类任务中那样明确。因此，需要开发更有效的无任务机制 (task-free mechanisms) 和依赖于用户交互的解决方案，以更好地管理时间序列数据流中的变化。
• 资源消耗评估 (Resource Consumption Evaluation)：目前对持续学习策略的资源成本 (resource cost)（如 CPU、GPU、能源 (energy) 消耗）的量化不足。未来应提出相关措施，对持续学习与传统方法（如联合训练 (joint training)）进行成本效益分析，并探索预算策略 (budgeted strategies)。
• 模型可解释性 (Model Explainability)：虽然时间序列领域已有可解释性 (explainability) 的研究，但持续学习为该领域带来了新的挑战和机遇。未来的工作应关注如何使持续学习模型的结果可解释 (explainable) 和可理解 (interpretable)。
• 应用领域拓展 (Expansion of Application Domains)：目前应用主要集中在能源和经济预测等少数领域。持续学习在医学 (medicine)、环境研究 (environmental studies)（气象学、气候、水文学）[10, 27, 59, 60] 等众多具有巨大影响潜力的领域仍有待深入探索和开发。

7.3. 个人启发与批判

这篇综述为持续学习 (Continual Learning) 在时间序列预测 (Time Series Forecasting) 领域的现状提供了一个清晰且全面的鸟瞰图，对于初学者理解该领域的挑战和前景具有重要启发。

个人启发：

• 理论与实践的结合点：论文清晰地阐述了数据漂移 (data drift) 和概念漂移 (concept drift) 在实际应用中的普遍性，这为理论研究找到了重要的实践落地场景。能源预测、交通管理等都是实时且动态的，对模型的适应性要求极高。
• 未来 AI 系统的关键能力：持续学习不仅是提高模型性能的技术，更是构建真正智能、自主学习 AI 系统的关键能力。一个能够终身学习、自我适应的系统，将极大地拓宽 AI 的应用边界。
• 跨领域研究的潜力：从分类 (classification) 领域成熟的持续学习策略（如重放 (rehearsal)、正则化 (regularization)、模型扩展 (model extension)）向时间序列 (time series) 领域的迁移，以及从中发现的新挑战（如任务定义、无任务机制），都表明了跨领域研究的巨大潜力。

批判：

• 基准缺失是核心瓶颈：论文多次强调了公共基准 (common benchmarks) 的缺失，这是该领域当前最大的瓶颈。没有统一的基准，研究人员难以客观比较不同方法的优劣，也难以量化进展，从而阻碍了研究的快速迭代和收敛。这需要社区共同努力，建立类似 MNIST 或 CIFAR 在分类领域的地位的基准。

• “任务”定义的模糊性：在时间序列中，“任务”的概念确实比分类模糊。当前的“基于任务”的方法往往是任意划分数据集，这可能无法真实反映现实世界的概念变化。无任务 (task-free) 解决方案是未来方向，但其实现复杂性高，需要更智能的漂移检测机制和学习策略。

• 性能与资源消耗的权衡：尽管持续学习模型在性能上优于基线 (baseline) 和微调 (fine-tuning)，但通常伴随着更高的计算成本 (computational cost)（例如，学习时间 (learning time) 的增加）。在实际部署中，尤其是在资源受限的边缘设备上，这种成本可能是一个重要的障碍。论文提出了评估资源消耗 (resource consumption) 的必要性，这是非常及时的批判性思考。未来的研究需要更多关注高效 (efficient) 的持续学习策略，而不仅仅是性能。

• 可解释性挑战：将复杂的持续学习策略与深度学习模型结合，无疑会进一步增加模型可解释性 (explainability) 的难度。如何让这些自适应的模型不仅能做出准确预测，还能解释其决策和适应过程，对于提高用户信任和实际应用至关重要。

• 未解决的可塑性/稳定性困境 (plasticity/stability dilemma)：尽管提出了多种策略，但这个困境仍然是持续学习的核心未解问题。不同的策略在实践中对这个困境的平衡点各有侧重，没有一个放之四海而皆准的完美方案。如何根据具体的应用场景和需求，动态调整可塑性 (plasticity) 和稳定性 (stability)，仍是一个开放的研究方向。

  总的来说，这篇综述清晰地勾勒了时间序列预测 (time series forecasting) 中持续学习 (Continual Learning) 的现状、挑战和发展方向，为该领域的研究者提供了宝贵的指导。