1.1. 标题

Cross-System Categorization of Abnormal Traces in Microservice-Based Systems via Meta-Learning (通过元学习对微服务系统中异常调用链进行跨系统分类)

1.2. 作者

• YUQING WANG (王雨晴), 赫尔辛基大学, 芬兰
• MIKA V. MANTYLA, 赫尔辛基大学, 芬兰 和 奥卢大学, 芬兰
• SERGE DEMEYER, 安特卫普大学, 比利时
• MUTLU BEYAZIT, 安特卫普大学, 比利时
• JOANNA KISAAKYE, 安特卫普大学, 比利时
• JESSE NYSSOLA, 赫尔辛基大学, 芬兰

1.3. 发表期刊/会议

发表于 ACM软件工程学报 (Proc. ACM Softw. Eng.) 卷2, FSE (软件工程基础), 文章FSE027 (2025年7月)。 FSE (Foundations of Software Engineering) 是软件工程领域顶级的国际会议之一，享有极高的学术声誉和影响力。

1.4. 发表年份

2025年 (根据ACM参考格式，尽管预印本发布于2024年3月)。

1.5. 摘要

微服务系统 (Microservice-based Systems, MSS) 可能因各种故障类型而失效。尽管现有的 AIOps (AI for IT Operations) 方法在检测异常调用链并定位责任服务方面表现出色，但仍需要人工诊断具体的故障类型和故障原因。本文提出了 TraFaultDia，一种新颖的 AIOps 框架，用于自动将 MSS 中的异常调用链分类到故障类别中。我们将分类过程视为一系列多分类任务，其中每个任务代表尝试将 MSS 中的异常调用链分类到特定故障类别中。TraFaultDia 利用 元学习 (meta-learning) 在几个异常调用链分类任务上进行训练，每个任务仅使用 MSS 中的少量标注实例，从而能够快速适应跨 MSS 的新的、未见的异常调用链分类任务，每个任务也仅需少量标注实例。TraFaultDia 的用例可扩展，具体取决于如何从 MSS 内部的异常中构建故障类别。我们在两个 MSS (TrainTicket 和 OnlineBoutique) 上对 TraFaultDia 进行了评估，这些系统使用开放数据集，其中每个故障类别都与故障系统组件 (服务/Pod) 和根本原因相关联。TraFaultDia 自动将异常调用链分类到这些故障类别中，从而无需人工分析即可自动识别故障系统组件和根本原因。TraFaultDia 在 TrainTicket 和 OnlineBoutique 上的50个新分类任务中，当在同一 MSS 内训练且每个类别提供10个标注实例时，分别达到了 93.26% 和 85.20% 的准确率。在跨系统环境中，当 TraFaultDia 应用于与训练它的 MSS 不同的系统时，对于相同的一组50个新的、未见的异常调用链分类任务，且每个系统每个故障类别也提供10个标注实例，TraFaultDia 分别获得了 92.19% 和 84.77% 的平均准确率。

1.6. 原文链接

• 原文链接: https://arxiv.org/abs/2403.18998
• PDF 链接: https://arxiv.org/pdf/2403.18998v4.pdf
• 发布状态: 预印本 (Preprint)，版本4。

2. 整体概括

2.1. 研究背景与动机

微服务系统 (MSS) 因其固有的复杂性和动态性，常常面临各种故障类型。目前的 AIOps (AI for IT Operations) 方法在自动化运维领域取得了显著进展，特别是在检测系统中的异常调用链 (abnormal traces) 和定位可能导致问题的服务 (responsible service(s)) 方面。然而，这些方法通常止步于此。当检测到异常后，仍然需要运维人员投入大量精力进行进一步的 根本原因分析 (Root Cause Analysis, RCA)，以诊断具体的故障类型 (fault types) 和分析故障原因 (failure causes)。这种人工诊断的需求在以下几个方面构成了显著的挑战和空白：

1. 诊断特定故障类型和原因的缺失 (Lack of Specific Fault Type Diagnosis): 现有的 AIOps 工具虽然能指出“哪里”出现了异常或“哪个服务”可能出了问题，但它们无法直接回答“为什么”或“具体是什么类型的故障”。例如，一个服务响应变慢，可能是由于 CPU 争用、网络延迟、数据库连接池耗尽，或者是第三方服务故障。这些不同的原因需要不同的诊断路径和解决方案。

2. 人工分析效率低下 (Inefficiency of Manual Analysis): 随着 MSS 规模的扩大和复杂性的增加，产生的调用链数据量呈指数级增长。人工审查和分类大量异常调用链变得不切实际且耗时。这导致故障解决延迟、系统停机时间增加和运营成本上升。

3. 异构性挑战 (Heterogeneity Challenge): 不同的 MSS 在服务数量、架构设计和业务逻辑上存在显著差异。这使得开发一个通用的调用链表示和分类方法变得困难。一个在某个系统上表现良好的模型，可能无法直接迁移到另一个系统。

4. 数据高维多模态 (High-dimensional, Multi-modal Data): 调用链数据通常包含来自不同来源（如 Span 和 Log）的多模态信息，且维度高、结构复杂。有效地融合和压缩这些信息对于高效的分析至关重要。

5. 故障类别分布不平衡 (Imbalanced Fault Category Distribution): 在实际的 MSS 运维中，某些故障类型可能比其他类型更常见，导致不同故障类别下的异常调用链样本数量严重不平衡。这给机器学习模型的训练带来了挑战，尤其是对于那些罕见的故障类型。

   针对这些挑战，本文的切入点是提出一个新颖的 AIOps 框架 TraFaultDia，旨在通过自动化将异常调用链分类到其具体的故障类别中，从而实现对故障组件和根本原因的自动识别，显著减少对人工分析的依赖。

2.2. 核心贡献/主要发现

本文通过 TraFaultDia 框架做出了以下核心贡献和主要发现：

1. 提出了 TraFaultDia 框架，实现异常调用链的跨系统故障分类： TraFaultDia 能够自动将异常调用链分类到特定的故障类别，这超越了现有 AIOps 方法通常只进行异常检测和定位的范畴。它为 MSS 提供了更深层次的故障诊断能力，而无需人工分析。
2. 引入元学习实现少样本学习和跨系统适应性： TraFaultDia 采用 元学习 (Meta-Learning) 方法，特别是基于 Transformer Encoder (TE) 的 Model-Agnostic Meta-Learning (MAML) (缩写为 TEMAML)。这种方法使得框架能够在只有少量标注实例的情况下，快速适应新的、未见的异常调用链分类任务，并具备在不同 MSS 之间迁移学习的能力，有效解决了 MSS 异构性 (C1) 和故障类别数据不平衡 (C3) 的挑战。
3. 设计了 AttenAE 进行高维多模态调用链数据融合： 框架包含一个 Multi-Head Attention Autoencoder (AttenAE)，用于无监督地将高维、多模态的调用链相关数据（包括 Span 和 Log 的文本、时间、身份属性）融合为统一、压缩但有效的调用链表示。这解决了数据高维多模态 (C2) 的挑战，并确保了后续分类的效率和有效性。
4. 在基准 MSS 上进行了广泛评估并展示了优异性能： TraFaultDia 在两个代表性的基准 MSS (TrainTicket 和 OnlineBoutique) 的开放数据集上进行了评估。
   • 在 系统内适应性 (Within-system adaptability) 方面，当在同一 MSS 内训练，并为每个类别提供10个标注实例时，TraFaultDia 在 TrainTicket 和 OnlineBoutique 上分别达到了 93.26% 和 85.20% 的平均准确率。
   • 在 跨系统适应性 (Cross-system adaptability) 方面，当应用于与训练系统不同的 MSS 时，TraFaultDia 对于相同的任务集，在 TrainTicket 和 OnlineBoutique 上分别获得了 92.19% 和 84.77% 的平均准确率。
5. 实现故障系统组件和根本原因的自动识别： 通过将异常调用链分类到预定义的故障类别中（这些类别与故障系统组件和根本原因相关联），TraFaultDia 能够自动识别故障组件和根本原因，从而简化运维人员的工作流程，提高故障处理效率。

3. 预备知识与相关工作

3.1. 基础概念

为了更好地理解本文提出的 TraFaultDia 框架，我们需要首先掌握以下几个核心概念：

3.1.1. 微服务系统 (Microservice-based Systems, MSS)

• 概念定义: 微服务系统是一种软件架构风格，其中一个复杂的应用程序被构建为一系列小型、独立的服务集合。每个服务都运行在其独立的进程中，并通过轻量级的机制（通常是 HTTP API）相互通信。
• 特点: 这种架构带来了高度的灵活性、可扩展性和韧性，但也增加了系统整体的复杂性、部署和运维的挑战。

3.1.2. 调用链 (Trace)

• 概念定义: 在 MSS 中，一个用户请求可能涉及多个微服务之间的协作。调用链是一个逻辑单元，用于记录和跟踪一个完整的端到端请求在不同服务间的所有操作。它提供了一个请求从开始到结束的完整路径视图，是理解和监控 MSS 行为的基础。
• 结构: 通常由一系列嵌套的 Span 组成，形成一个树状或有向无环图结构。

3.1.3. Span (操作段)

• 概念定义: Span 是调用链中的一个独立操作单元，代表了请求处理过程中的一个步骤或一段工作。例如，一次数据库查询、一次 HTTP 调用、一个服务内部的函数执行都可以是一个 Span。
• 属性: 每个 Span 都包含时间戳（开始和结束时间）、操作名称、服务名称、父 Span ID、子 Span ID、以及其他与操作相关的元数据（如错误信息、标签）。它们通常具有层级关系，一个 Span 可以有多个子 Span。

3.1.4. 日志 (Log)

• 概念定义: 日志是软件系统在运行时自动生成的事件记录。它们包含了关于系统状态、操作执行、错误信息以及其他诊断数据的文本消息。
• 作用: 在调用链的上下文中，日志与特定的 Span 相关联，提供更详细的服务实例行为和潜在问题的上下文信息。例如，一个 Span 内部可能产生多个日志条目，记录该操作的详细步骤或遇到的问题。

3.1.5. AIOps (AI for IT Operations)

• 概念定义: AIOps 是指利用人工智能（AI）和机器学习（ML）技术来自动化和增强 IT 运维（IT Operations）任务的领域。
• 目标: 旨在通过分析大量的运维数据（如日志、指标、调用链）来自动检测异常、定位故障、预测问题和优化系统性能，从而减少对人工干预的需求，提高运维效率和系统可靠性。

3.1.6. 元学习 (Meta-Learning)

• 概念定义: 元学习，又称“学会学习 (Learning to Learn)”，是一种机器学习范式，其目标是训练模型去学习如何学习新任务，而不是直接学习一个特定任务。它通过在多个相关任务上进行训练，使模型能够快速适应（通常只需少量数据）新的、未见的任务。
• 核心思想: 学习一个适用于不同任务的“通用学习策略”或“初始化参数”，使得在新任务上只需少量梯度更新即可达到良好性能。

3.1.7. 少样本学习 (Few-Shot Learning)

• 概念定义: 少样本学习是元学习的一个具体应用场景，指在每个类别只有极少量（通常少于10个）标注样本的情况下，训练模型进行有效分类的能力。
• 挑战: 传统机器学习模型在缺乏大量标注数据时表现不佳，而少样本学习旨在解决这一数据稀缺问题，使其在实际应用中更具实用性。

3.1.8. 自编码器 (Autoencoder, AE)

• 概念定义: 自编码器是一种无监督学习的神经网络模型，旨在学习输入数据的有效编码（即表示）。它由两部分组成：一个编码器（Encoder）和一个解码器（Decoder）。编码器将输入数据映射到一个低维的潜在空间（latent space），生成数据的“表示”；解码器则尝试从这个潜在表示中重建原始输入数据。
• 作用: 通过最小化重建误差，自编码器学习到能够捕获数据主要特征的压缩表示，常用于特征提取、降维和去噪。

3.1.9. Transformer 模型

• 概念定义: Transformer 是一种于2017年由 Google 提出的深度学习模型架构，最初用于自然语言处理（NLP）任务。其核心创新是完全放弃了传统的循环神经网络（RNN）和卷积神经网络（CNN）结构，而完全依赖于 自注意力机制 (Self-Attention Mechanism)。
• 自注意力机制 (Self-Attention Mechanism): 允许模型在处理序列数据时，评估序列中不同位置的元素之间的相关性，并根据这些相关性来加权其表示。
• 多头注意力机制 (Multi-Head Attention): 是自注意力机制的扩展，通过并行运行多个注意力机制（即“头”），并将其结果拼接起来，使模型能够从不同角度或在不同表示子空间中共同关注信息。
• 应用: Transformer 模型因其强大的并行计算能力和捕获长距离依赖关系的能力，已广泛应用于 NLP、计算机视觉等多个领域。

3.2. 前人工作

本文在总结相关工作时，主要聚焦于调用链的表示方法和分类任务：

3.2.1. 调用链表示 (Trace Representation)

• 图神经网络 (Graph Neural Networks, GNNs): 许多研究（例如 [Chen et al. 2023, 2022; Raeiszadeh et al. 2023; Zhang et al. 2022a,b]）利用 GNNs 来构建调用链图。这些方法将 Span 建模为节点，Span 之间的交互建模为边，以反映请求在调用链中的流向。节点信息通过 Span 属性（如调用路径、响应时间）或关联日志的文本属性进行丰富。
  • 优点: GNNs 在检测异常调用链和定位潜在故障服务方面表现出色。
  • 局限性 (本文观点): GNNs 的计算成本高昂，且存在可扩展性问题。对于包含数百个 Span 的复杂调用链，建模 Span 间的依赖关系会指数级增加计算复杂度。在 MSS 的动态环境中，频繁更新图结构以反映新的或变更的 Span 和依赖关系，计算开销巨大，不适合高效适应动态 MSS 的需求。
• 序列模型 (Sequence Models): 另一些异常检测研究（例如 [Du et al. 2023; Kohyarnejadfard et al. 2022; Nedelkoski et al. 2019b]）将调用链视为 Span 序列，并使用 Span 属性来构建调用链表示，常结合 LSTM 等模型。
  • 局限性 (本文观点): 这类方法完全忽略了日志信息。而本文通过经验研究发现，日志对于识别特定故障类别（如代码错误、消息返回错误、配置错误）至关重要。缺失日志信息会影响模型的性能。

3.2.2. 调用链分类 (Trace Classification)

• 二分类 (Binary Classification): 大多数 MSS 异常检测研究（例如 [Kohyarnejadfard et al. 2019; Kong et al. 2024; Zhang et al. 2022b]）采用二分类方法，判断调用链是异常的还是正常的。
  • 局限性 (本文观点): 这与本文的目标不同。本文的目标是在已检测到异常调用链的基础上，进一步进行 多分类 (multi-class classification)，将其归类到具体的故障类别，从而实现更精细的故障诊断。
• 多分类 (Multi-class Classification): 针对 MSS 或类似云系统的异常调用链多分类研究非常稀少。
  • Nedelkoski 等人 (2019a) 的工作: 是唯一相关的研究。该工作使用卷积神经网络 (CNN) 将异常调用链分类为四种基于时间序列的故障类别（增量、均值漂移、逐渐增加、圆柱形）。它将调用链表征为 Span 序列，并使用 Span 属性“调用路径”的时间序列数据进行分类。
  • 局限性 (本文观点): 这种方法不足以解决本文研究中更广泛的故障类别（如表1所示），也未能解决本文识别出的 C1 (MSS 异构性) 和 C2 (高维多模态数据) 挑战。具体来说，单一的 CNN 模型难以有效应对不同 MSS 之间的异构性。此外，它只考虑了 Span 属性“调用路径”的时间序列数据，忽略了其他关键的调用链相关数据模态（如日志信息），而这些模态对于识别某些故障类别至关重要。

3.3. 技术演进

该领域的技术演进可以概括为从简单的异常检测向精细故障诊断的转变，以及从单一数据源分析向多模态数据融合的演变：

• 从检测到诊断: 早期 AIOps 专注于“有没有异常”，随后发展到“异常在哪里”。现在正向“异常是什么类型，为什么会发生”的诊断阶段迈进。
• 从单一模态到多模态: 过去的研究可能只关注日志或指标。随着分布式系统调用链的普及，将 Span、Log 等多源异构数据结合起来进行分析成为趋势。
• 从特定模型到通用适应性: 传统的机器学习模型在训练时需要大量标注数据，且难以迁移到新的系统或新的故障类型。元学习的引入旨在解决这一问题，使模型能够快速适应动态变化的 MSS 环境。

3.4. 差异化分析

本文提出的 TraFaultDia 框架与上述相关工作相比，其核心区别和创新点在于：

1. 全面的调用链表示： TraFaultDia 克服了现有方法对日志信息的忽视或 GNNs 的计算复杂性。它通过 AttenAE 融合了所有必需的 Span 和 Log 属性（包括文本、时间、身份属性），创建统一、压缩且有效的调用链表示。这使得它能够捕获更全面的故障信号，而 GNNs 的计算效率和动态适应性问题也得到了规避。
2. 细粒度的多分类诊断： 与大多数专注于二分类（异常/正常）的 AIOps 研究不同，TraFaultDia 专注于对已检测到的异常调用链进行多类别分类，将其精确地归类到具体的故障类别。这直接填补了从异常检测到故障诊断之间的鸿沟。
3. 强大的跨系统和少样本适应性： 现有工作通常难以在不同 MSS 之间迁移或在数据稀缺的故障类别上表现良好。TraFaultDia 通过元学习（TEMAML）赋予了模型快速适应新任务、处理 MSS 异构性 (C1) 和解决数据不平衡 (C3) 的能力，这在实际运维场景中具有极高的实用价值。

4. 方法论

4.1. 方法原理

TraFaultDia 框架的核心思想是利用 元学习 (meta-learning) 来解决微服务系统 (MSS) 中异常调用链分类的挑战。它将分类过程看作一系列多分类任务，其中每个任务都是将特定 MSS 中的异常调用链分类到预定义的故障类别中。

框架的原理体现在以下几个方面：

• 高效表示: 面对高维、多模态的调用链数据（挑战 C2），TraFaultDia 采用 Multi-Head Attention Autoencoder (AttenAE) 进行无监督学习，将原始数据融合成紧凑、有效的低维表示。这确保了后续分析的效率和准确性。
• 少样本学习: 针对故障类别分布不平衡，某些类别样本稀少的问题（挑战 C3），TraFaultDia 利用 Model-Agnostic Meta-Learning (MAML) 训练一个基于 Transformer Encoder 的模型 (TEMAML)。MAML 使得模型能够通过少量标注实例快速适应新的分类任务。
• 跨系统适应性: 针对 MSS 之间固有的异构性问题（挑战 C1），元学习范式赋予了模型从一个 MSS 学习到的知识能够有效地迁移到另一个未见的 MSS 的能力，从而实现跨系统适应。

4.2. 核心方法详解

TraFaultDia 框架由两个主要组件构成：Multi-Head Attention Autoencoder (AttenAE) 和 Transformer-Encoder based Model-Agnostic Meta-Learning (TEMAML) 模型。图 3 概述了其工作流程。

4.2.1. TraFaultDia 工作流概述

如图 3 所示，TraFaultDia 的工作流分为两个主要阶段：

1. AttenAE 训练与表示构建:

   • 目标: 为给定 MSS 生成高质量、压缩的调用链表示。
   • 过程: AttenAE 在大量无标签的调用链上进行无监督训练。编码器负责将原始调用链相关数据（Span 和 Log 属性）融合为低维的表示，解码器负责从这些表示中重建原始数据。通过最小化重建误差，AttenAE 学习到有效的特征提取方式。
   • 输出: 训练完成后，只有编码器被独立用于为该 MSS 中的新调用链生成其表示。

2. TEMAML 训练与分类:

   • 目标: 训练一个基础模型（Transformer Encoder），使其能够执行异常调用链的多分类任务，并具备少样本和跨系统适应能力。

   • 过程: TEMAML 在元训练阶段，使用来自一个 MSS 的多个异常调用链分类任务进行训练。每个任务都采用 N-Way K-Shot 设置（即 N 个故障类别，每个类别 K 个标注实例）。在元测试阶段，TEMAML 能够快速适应来自任意 MSS 的新的、未见的异常调用链分类任务，也仅需少量标注实例。

   • 输入: TEMAML 使用在相应 MSS 上优化过的 AttenAE 编码器所构建的调用链表示作为输入来训练和评估。

     下图（原文 Figure 3）展示了 TraFaultDia 框架的整体工作流：

     该图像是图3，展示了TraFaultDia框架中AttenAE与TEMAML的交互流程。包括利用AttenAE对微服务系统异常调用链进行编码与解码，构建调用链表示，再通过TEMAML进行基于元学习的异常调用链分类，分为元训练和元测试阶段。

4.2.2. AttenAE 用于构建调用链表示

AttenAE 负责将原始的高维、多模态调用链数据转化为统一、压缩且有效的表示。图 4 展示了 AttenAE 的架构。

给定一个 MSS，我们用 $Tr = \{ Tr_1, Tr_2, ..., Tr_n \}$ 表示一个调用链集合，其中每个 $Tr_i$ 代表一个由 Span 和 Log 组成的独立调用链。我们将 $Tr = (Span, Log)$ 视为所有调用链中 Span 和 Log 的组合。

下图（原文 Figure 4）展示了 AttenAE 的架构：

该图像是图4，AttenAE架构的示意图，展示了从一条跟踪的spans和日志中提取属性，并通过多头注意力机制的编码器-解码器结构进行特征投影和重构的过程。

4.2.2.1. Span 预处理和向量生成

对于每个 Span，我们提取其文本属性（call component 和 path）、时间属性（span start time 和 span end time）以及身份属性（trace ID 和 span ID）。

• 身份属性处理: trace ID 用于将 Span 归集到其所属的调用链。
• 时间属性处理: 时间属性（UNIX 格式）在每个 Span 的上下文中进行归一化。这些属性连接成一个向量 $V_{\mathrm{numeric}}$。
• Span ID 层级抽象: 对于 span ID，我们抽象掉共享的通用前缀，只保留层级数字。例如，将 a480f2.0, a480f2.1, a480f2.2, a343mc.0, a987gq.0 重新分配为 1.0, 1.1, 1.2, 2.0, 3.0。在调用链内对 span ID 进行归一化，得到向量 $V_{\mathrm{span\_id}}$。
• 文本属性处理 ("Service Operation"): call component 和 path 连接形成一个单一属性“service operation”。为了处理服务操作中不断变化和包含 OOV (out-of-vocabulary) 词的特性，我们采用神经表示方法。
  1. 预处理: 将所有大写字母转换为小写，用标准标识符替换特定变量（例如，Prod1234 替换为 ProductID），并移除所有非字母字符。
  2. 分词 (Tokenization): 使用 WordPiece 分词 (WordPiece tokenization) [Wu et al. 2016] 将服务操作分词为子词。
  3. 神经表示: 将子词输入到预训练的 BERT base 模型 (BERT base model) [Google Research 2018] 中，生成每个子词的词嵌入 (word embeddings)。我们使用模型最后一个编码层生成的词嵌入，并通过对词嵌入求平均来计算每个服务操作的句子嵌入 (sentence embedding)。这将生成一个向量表示 $V_{\mathrm{operation}}$。
• 最终 Span 向量: 对于 Tr，将上述获得的向量表示连接起来，形成一个复合向量 $V_{\mathrm{span}} \in \mathbb{R}^{d_{\mathrm{span}}}$，其中 $d_{\mathrm{span}}$ 是 $V_{\mathrm{span}}$ 的向量空间维度。虽然原文只写了 $V_{\mathrm{span}} = \mathrm{Concatenate}(\dots)$ 但未列出具体连接项，根据上文推断，它应为时间属性、Span ID 和文本属性的组合： $$V_{\mathrm{span}} = \mathrm{Concatenate}(V_{\mathrm{numeric}}, V_{\mathrm{span\_id}}, V_{\mathrm{operation}})$$

4.2.2.2. Log 预处理和向量生成

我们从 Log 中提取文本属性（log component 和 message，severity level）以及身份属性（trace ID）。

• 身份属性处理: trace ID 用于将 Log 归集到其所属的调用链。
• 文本属性处理 ("Log Event"): 这些属性连接形成一个单一属性“log event”。同样采用神经表示方法来捕获 Log 事件的语义。其处理流程与 Span 文本属性的处理相同：预处理、WordPiece 分词、通过 BERT base 模型生成词嵌入并求平均。这将生成一个向量表示 $V_{\mathrm{log}} \in \mathbb{R}^{d_{\mathrm{log}}}$，其中 $d_{\mathrm{log}}$ 是 $V_{\mathrm{log}}$ 的向量空间维度。

4.2.2.3. 调用链表示构建

对于给定的 MSS，我们利用 AttenAE 的编码器为调用链 Tr 构建调用链表示。

• 特征空间投影: 编码器首先将输入的向量 $V_{\mathrm{span}}$ 和 $V_{\mathrm{log}}$ 投影到一个公共特征空间 $\mathbb{R}^{d'}$： $$V_{\mathrm{span}}' = g ( W_{\mathrm{span}} V_{\mathrm{span}} + b_{\mathrm{span}} ); \quad V_{\mathrm{log}}' = g ( W_{\mathrm{log}} V_{\mathrm{log}} + b_{\mathrm{log}} )$$ 其中，$g$ 表示激活函数，$W_{\mathrm{span}}$ 和 $W_{\mathrm{log}}$ 分别是对应的权重矩阵，$b_{\mathrm{span}}$ 和 $b_{\mathrm{log}}$ 是偏置向量。

• 多头注意力融合: AttenAE 的编码器结合了 多头注意力机制 (Multi-Head Attention mechanism) [Vaswani 2017]，其计算公式如下： \left\{ \begin{array} { l } { \mathrm { Attention } ( Q , K , V ) = \mathrm { softmax } \left( \frac { Q K ^ { T } } { \sqrt { d _ { k } } } \right) V , } \\ { \mathrm { head } _ { i } = \mathrm { Attention } ( Q W ^ { Q } , K W ^ ^ { K } , V W ^ { V } ) , } \\ { \mathrm { MultiHead } ( Q , K , V ) = \mathrm { Concatenate } ( \mathrm { head } _ { 1 } , \dots , \mathrm { head } _ { h } ) W ^ { O } } \end{array} \right.

  • Attention 函数: 计算 Query ($Q$) 和 Key ($K$) 的点积以获得注意力分数，通过 $\sqrt{d_k}$ 进行缩放以保持数值稳定性，然后应用 Softmax 函数得到注意力分布，该分布用于加权 Value ($V$) 中的元素。

  • head_i: 每个注意力头 ($head_i$) 通过对 Q, K, V 进行单独的学习投影（使用权重矩阵 $W^Q, W^K, W^V$）来计算。

  • MultiHead 函数: 最终的多头注意力输出是将所有单独注意力头的输出拼接在一起，并通过线性变换 $W^O$ 得到。

    我们将 $V_{\mathrm{span}}'$ 作为 $Q$，将 $V_{\mathrm{log}}'$ 同时作为 $K$ 和 $V$，输入到上述机制中，以将它们融合为调用链 Tr 的表示 $Z$： $$\begin{array} { r } { Z = \mathrm { MultiHead } ( V _ { \mathrm { span } } ^ { \prime } , V _ { \mathrm { log } } ^ { \prime } , V _ { \mathrm { log } } ^ { \prime } ) } \end{array}$$ 这里，$V_{\mathrm{span}}'$ 作为查询（Query）是因为 Span 提供了结构和通信信息，而 $V_{\mathrm{log}}'$ 作为键（Key）和值（Value）则是因为 Log 提供了详细的上下文事件信息。

• 解码器 (Decoder): 对于一组调用链 $Tr = \{ Tr_1, Tr_2, ..., Tr_n \}$，我们生成对应的调用链表示 $Z = \{ Z_1, Z_2, ..., Z_n \}$，其中 $Z_i$ 对应于 $Tr_i$。AttenAE 的解码器将调用链表示 $Z$ 重建为原始的 Span 和 Log 向量，有效地反转了编码器的过程： $$\hat { V } _ { \mathrm { span } } = g ( W _ { \mathrm { span } } ^ { \prime } Z + b _ { \mathrm { span } } ^ { \prime } ); \quad \hat { V } _ { \mathrm { log } } = g ( W _ { \mathrm { log } } ^ { \prime } Z + b _ { \mathrm { log } } ^ { \prime } )$$ 其中，$\hat{V}_{\mathrm{span}} \in \mathbb{R}^{d_{\mathrm{span}}}$ 和 $\hat{V}_{\mathrm{log}} \in \mathbb{R}^{d_{\mathrm{log}}}$ 是重建的向量，$g$ 是激活函数，$W_{\mathrm{span}}'$ 和 $W_{\mathrm{log}}'$ 是对应的权重矩阵，$b_{\mathrm{span}}'$ 和 $b_{\mathrm{log}}'$ 是偏置向量。

• 损失函数 (Loss Function): AttenAE 通过优化其参数 $\Psi$ 来最小化原始向量 $(V_{\mathrm{span}}, V_{\mathrm{log}})$ 与其各自重建向量 $(\hat{V}_{\mathrm{span}}, \hat{V}_{\mathrm{log}})$ 之间的总损失 $\mathcal{L}$： $$\operatorname* { m i n } _ { \Psi } \mathcal { L } = \| \hat { V } _ { \mathrm { span } } - V _ { \mathrm { span } } \| ^ { 2 } + \| \hat { V } _ { \mathrm { log } } - \bar { V _ { \mathrm { log } } } \| ^ { 2 }$$ 其中 $\| \cdot \|^2$ 表示平方欧几里得距离，用于度量原始向量和重建向量之间的差异。

4.2.3. TEMAML 用于少样本异常调用链分类

TEMAML 的目标是训练一个基础模型 Transformer Encoder (TE)，使其能够对异常调用链进行多类别分类，并具备少样本学习能力以及跨系统迁移能力。图 5 描绘了 TEMAML 的学习过程。

TEMAML 包含两个阶段：元训练 (meta-training) 和元测试 (meta-testing)。

下图（原文 Figure 5）展示了 TEMAML 的学习过程：

该图像是图 5，展示了TEMAML（基于任务的元学习）学习过程的示意图，包含内循环和外循环两个阶段，通过迭代优化参数heta以实现对异常跟踪的分类。

4.2.3.1. 异常调用链分类的基础模型

TEMAML 训练的基础模型 TE（表示为 $f$）执行异常调用链的多类别分类。对于来自一个 MSS 的异常调用链分类任务，TE 的工作流程如下：

1. 输入处理: TE 接收由 AttenAE 构建的调用链表示 $Z$ 作为输入，其中 $Z$ 代表该任务中的所有异常调用链 Tr。
2. 自注意力机制: 输入 $Z$ 通过 TE 的自注意力机制进行处理。此机制（遵循公式 2 中的多头注意力机制）权衡最相关的部分，并捕获每个调用链表示 $Z_i$ 中的依赖关系，以识别每个调用链 $Tr_i$ 的故障类型。由于 Q, K, V 都使用相同的输入 $Z$，因此称之为“自注意力”。输出表示为： $$\mathrm{output} = \mathrm{MultiHead}(Z, Z, Z)$$
3. 后续层: 自注意力机制的输出进一步通过一个池化层 (pooling layer) 来突出关键特征，一个 Dropout 层 (dropout layer) 来防止过拟合，以及一个全连接层 (fully connected layer) 来将精炼后的输出重塑为适合分类的格式。
4. 分类器: 最后，一个 Softmax 分类器处理全连接层的输出，计算每个故障类别的概率。

4.2.3.2. 元训练 (Meta-training)

此阶段旨在训练 TE 找到鲁棒的参数，使其能够快速适应来自任何 MSS 的异常调用链分类任务。

我们在一系列异常调用链分类任务（元训练任务），表示为 $T = (S, Q)$，上训练 TE。这些任务从一个 MSS 中采样。每个元训练任务 $T_i = (S_i, Q_i)$ 包含一个支持集 (support set) $S_i$ 和一个查询集 (query set) $Q_i$。

• $S_i = \{ (z_{ij}^{\mathrm{spt}}, y_{ij}^{\mathrm{spt}}) \}_{j=1}^{N \times K}$，其中 $N \times K$ 表示有 $N$ 个不同的故障类别，每个类别有 $K$ 个标注调用链实例。

• $Q_i = \{ (z_{ig}^{\mathrm{qry}}, y_{ig}^{\mathrm{qry}}) \}_{g=1}^{N \times M}$，其中 $N \times M$ 表示有 $N$ 个不同的故障类别，每个类别有 $M$ 个标注调用链实例。通常 $M > K$，以实现对查询集的鲁棒优化。

• 支持集 $S_i$ 和查询集 $Q_i$ 中的异常调用链都使用给定 MSS 的优化过的 AttenAE 编码器来构建其表示。

  如图 5 所示，在元训练阶段，基础模型 TE ($f$) 在两个循环中进行训练：内循环 (inner loop) 和外循环 (outer loop)。

• 内循环 (Inner Loop): 负责任务级别的学习。

  • 首先，随机初始化 $f$ 的参数，表示为带有参数 $\theta$ 的 $f_\theta$。
  • 当适应每个元训练任务 $T_i$ 时，$f$ 的参数 $\theta$ 被转换为任务特定的参数 $\theta_i'$，对应于更新后的模型 $f_{\theta_i'}$。
  • $\theta_i'$ 通过在 $T_i$ 的支持集 $S_i$ 上进行梯度下降更新来计算： $$\theta _ { i } ^ { \prime } = \theta - \alpha \nabla _ { \theta } \mathcal { L } _ { T _ { i } } ( f _ { \theta } ( S _ { i } ) )$$ 其中，$\alpha$ 是内循环更新的学习率，$\mathcal{L}_{T_i}$ 是在 $S_i$ 上的损失。

• 外循环 (Outer Loop): 优化 $f$ 的参数，以确保少量梯度步长能在所有任务 $T$ 上产生最佳性能。

  • 它通过优化 $\theta_i'$ 相对于 $\theta$ 在所有元训练任务 $T$ 上的性能来训练 $f$ 的参数。
  • 它最小化所有元训练任务 $T$ 的查询集 $Q$ 上的总损失 $\mathcal{L}$： $$\operatorname* { m i n } _ { \theta } { \mathcal { L } } ( \theta ) = \sum _ { T _ { i } \in T } { \mathcal { L } } _ { T _ { i } } ( f _ { \theta _ { i } ^ { \prime } } ( Q _ { i } ) )$$ 其中，$\mathcal{L}_{T_i}$ 是在 $T_i$ 的 $Q_i$ 上的损失。
  • $f$ 的参数 $\theta$ 被更新 $p$ 次，$p$ 是预定的优化步数。每次更新都会得到更新后的参数 $\theta_c$。例如，当使用一次梯度更新（即 $p=1$）时： $$\theta \gets \theta - \beta \nabla _ { \theta } \sum _ { T _ { i } \in T } \mathcal { L } _ { T _ { i } } ( f _ { \theta _ { i } ^ { \prime } } ( Q _ { i } ) )$$ 其中，$\beta$ 是外循环更新的学习率。
  • 为了简化外循环更新（标准 MAML 需要计算梯度的梯度，涉及计算 Hessian-vector 乘积，计算量大），本文使用了一阶近似 (first-order approximation) [Finn et al. 2017]，这消除了对二阶导数的需求。
  • 外循环的最终结果是获得最优参数 $\theta^*$。然后，基础模型 TE 用这些最优参数 $\theta^*$ 进行初始化，得到优化后的基础模型 $f_{\theta^*}$。这个优化后的基础模型 TE ($f_{\theta^*}$) 现在具有增强的适应性，能够快速适应来自任何 MSS 的新的、未见的异常调用链分类任务。

4.2.3.3. 元测试 (Meta-testing)

在此阶段，我们使用优化后的 TE ($f_{\theta^*}$) 来适应新的、未见的异常调用链分类任务（元测试任务），这些任务可以来自任何 MSS。

• 任务配置: 每个元测试任务使用与元训练任务相同的设置，表示为 $T_{ts} = (S_{ts}, Q_{ts})$。
• 适应与评估: 为了适应某个元测试任务 $T_{ts}$，我们将 $f_{\theta^*}$ 应用到其支持集 $S_{ts}$ 上进行微调，以获得专门针对 $T_{ts}$ 的参数 $\theta_{ts}'$。这会生成一个更新后的模型 $f_{\theta_{ts}'}$。最后，我们使用 $f_{\theta_{ts}'}$ 来分类 $Q_{ts}$ 中的异常调用链，以评估 TraFaultDia 框架的性能。

5. 实验设置

5.1. 数据集

为了训练和评估 TraFaultDia 框架，研究使用了两个开放数据集中的调用链数据：DeepTraLog 和 Nezha。这些数据集包含了来自两个代表性微服务系统 TrainTicket 和 OnlineBoutique 的调用链。

• DeepTraLog [FudanSELab 2024]: 包含 TrainTicket 系统的正常调用链和跨14种故障类别的异常调用链。这些故障类别涵盖了异步交互、多实例、配置和单体维度，旨在复制现实世界的异常场景。
• Nezha [IntelligentDDS 2024]: 包含 TrainTicket 和 OnlineBoutique 系统的正常调用链和异常调用链。它涵盖了由五种故障类型（CPU 争用、CPU 消耗、网络延迟、错误返回、异常代码缺陷）引起的异常调用链，每种故障类型都应用于每个系统内的各种服务 Pod。在这种背景下，每个与故障类型关联的 Pod 代表一个独特的故障类别。

我们的故障数据集: 研究结合 DeepTraLog 和 Nezha 构建了故障数据集：

• TrainTicket: 包含来自30个故障类别 (F1-F30) 的异常调用链。

• OnlineBoutique: 包含来自32个故障类别 (B1-B32) 的异常调用链。

  为了实验，这些故障类别被进一步划分：

• TrainTicket: 20个基础故障类别 (base fault categories) 和 10个新颖故障类别 (novel fault categories)。

• OnlineBoutique: 22个基础故障类别和 10个新颖故障类别。 这种划分旨在提供一致的比较基础，并确保基础类别和新颖类别中都包含不同 Span 和 Log 数量的调用链混合。

TrainTicket 和 OnlineBoutique 的故障类别概览 (来自原文 Table 1):

• TrainTicket DeepTraLog:
  • 异步服务调用相关故障: F1.Asynchronous message sequence error (异步消息序列错误), F2.Unexpected order of data requests (数据请求顺序异常), F13.Unexpected order of price optimization steps (价格优化步骤顺序异常)。
  • 多服务实例相关故障: F8.Key passing issues in requests (请求中的键传递问题), F11.BOM data is updated in an unexpected sequence (BOM数据以异常顺序更新), F12.Price status query ignores expected service outputs (价格状态查询忽略预期服务输出)。
  • 配置故障: F3.JVM and Docker configuration mismatch (JVM和Docker配置不匹配), F4.SSL offloading issue (SSL卸载问题), F5.High request load (高请求负载), F7.Overload of requests to a third-party service (第三方服务请求过载)。
  • 单体故障: F6.SQL error of a dependent service (依赖服务的SQL错误), F9.Bi-directional CSS display error (双向CSS显示错误), F10.API errors in BOM update (BOM更新中的API错误), F14.Locked product incorrectly included in CPI calculation (锁定产品错误地包含在CPI计算中)。
• Nezha 中的 TrainTicket 故障:
  • CPU 争用: F23.travel, F25.contact, F26.food service pods。
  • 网络延迟: F28.basic, F29.travel, F30.route, F27.security, F24.verification-code service pods。
  • 消息返回错误: F16.basic, F15.contact, F18.food, F19.verification-code service pods。
  • 异常代码缺陷: F17.basic, F21.route, F22.price, F20.travel service pods。
• Nezha 中的 OnlineBoutique 故障:
  • CPU 争用: B4.shipping, B14.cart, B18.currency, B19.email, B26.recommendation, B31.adservice, B9.payment, B11.frontend service pods。
  • CPU 消耗: B8.recommendation, B12.frontend, B24.productcatalog, B28.shipping, B17.checkout, B20.email, B32.adservice service pods。
  • 网络延迟: B10.currency, B1.cart, B15.checkout, B22.productcatalog, B27.shipping, B21.payment, B25.recommendation, B29.adservice, B7.email service pods。
  • 消息返回错误: B6.frontend, B23.productcatalog, B2.checkout, B30.adservice service pods。
  • 异常代码缺陷: B5.adservice, B13.frontend, B3.productcatalog, B16.checkout service pods。

调用链描述性统计 (来自原文 Table 2): 以下是原文 Table 2 的结果：

数据样本示例: 本文未直接提供具体的数据样本，如某条调用链的原始 Span 或 Log 文本。但通过描述，我们可以直观理解数据形态：

• Span 数据: 包含如 "用户服务调用了订单服务" (call component and path), "开始时间1678886400, 结束时间1678886450" (span start and end time), "trace ID: abcdef, span ID: abcdef.1.2" (trace ID, span ID)。
• Log 数据: 包含如 "用户服务" (log component), "数据库连接失败: timeout" (log message), "ERROR" (severity level)。 这些数据点共同描绘了一个请求在微服务系统中流转和执行的详细情况。

5.2. 评估指标

为了评估 TraFaultDia 框架和基线方法在故障分类方面的有效性，研究选择了 准确率 (Accuracy) 作为评估指标。

5.2.1. 准确率 (Accuracy)

• 概念定义: 准确率是分类任务中最常用和最直观的评估指标之一。它衡量的是模型正确预测样本类别的比例。在多分类任务中，准确率表示所有被正确分类的样本数占总样本数的百分比。尽管在类别分布不均衡时准确率可能不是最佳指标（因为它可能被多数类的高预测准确率所迷惑），但在本文的 N-Way K-Shot 元学习设置中，每个任务都是一个平衡的 N 分类问题（5-Way），其中每个类别的预测都同等重要，因此准确率是合适的。
• 数学公式: $$\text{Accuracy} = \frac{\text{Number of Correct Predictions}}{\text{Total Number of Predictions}}$$
• 符号解释:

  • $\text{Number of Correct Predictions}$: 模型在给定数据集上正确分类的样本数量。

  • $\text{Total Number of Predictions}$: 给定数据集上所有样本的总数量。

    此外，为了提供更全面的评估，研究还报告了95%的置信区间 (Confidence Interval, CI) 和任务准确率的范围（最小值和最大值），并使用 t-test (t检验) 进行统计比较，使用 Cohen's D (科恩'd) 值来评估效应量。

5.2.2. t-test (t检验)

• 概念定义: t 检验是一种统计假设检验，用于比较两个样本均值之间是否存在显著差异。在本文中，它用于比较 TraFaultDia 与基线方法在50个元测试任务上的平均准确率是否存在统计学上的显著差异。
• 数学公式: （此处原文未给出具体公式，但 t 检验的常见形式为独立样本 t 检验或配对样本 t 检验。考虑到比较50个任务的平均准确率，通常会使用配对样本 t 检验来比较两个模型在相同任务集上的表现。） 配对样本 t 检验的统计量 $t$ 计算公式为： $$t = \frac{\bar{d}}{s_{\bar{d}}} = \frac{\bar{d}}{s_d / \sqrt{n}}$$
• 符号解释:
  • $\bar{d}$: 两个模型在每个任务上的性能差异的平均值。
  • $s_{\bar{d}}$: 差异平均值的标准误差。
  • $s_d$: 性能差异的标准差。
  • $n$: 任务的数量（即配对观测的数量）。
• 显著性水平 (p值): t 检验会产生一个 p 值。通常，当 p 值小于 0.05 或 0.001 时，认为差异具有统计学显著性。

5.2.3. Cohen's D (科恩'd)

• 概念定义: Cohen's D 是一种标准化效应量 (standardized effect size)，用于衡量两个样本均值之间差异的大小。它不依赖于样本量，因此可以提供比 p 值更直观的差异程度信息。
• 数学公式: （此处原文未给出具体公式，Cohen's D 的常见计算方式是两个均值之差除以合并标准差。） $$d = \frac{\bar{X}_1 - \bar{X}_2}{s_p}$$ 其中，合并标准差 $s_p$ 的计算公式为： $$s_p = \sqrt{\frac{(n_1 - 1)s_1^2 + (n_2 - 1)s_2^2}{n_1 + n_2 - 2}}$$
• 符号解释:
  • $\bar{X}_1, \bar{X}_2$: 两个样本（例如，TraFaultDia 和一个基线模型）的平均准确率。
  • $s_1, s_2$: 两个样本的标准差。
  • $n_1, n_2$: 两个样本的样本量。
  • $s_p$: 合并标准差。
• 效应量解释:
  • $d = 0.2$: 小效应量 (small effect size)。
  • $d = 0.5$: 中等效应量 (medium effect size)。
  • $d = 0.8$ 或更高: 大效应量 (large effect size)。

5.3. 对比基线

考虑到缺乏直接可比较的 AIOps 方法，研究通过结合基线和消融研究来评估 TraFaultDia 的性能及其组件的影响。

5.3.1. AttenAE 及其替代方案

这些基线探索了与 TraFaultDia 不同的调用链表示构建方法。

• $OnlySpan+TEMAML$: 仅将 Span 数据输入 TEMAML 进行分类。遵循相关工作 [Nedelkoski et al. 2019a]，将每个调用链视为 Span 序列，并仅使用识别出的 Span 属性构建表示。此基线旨在评估 Log 信息对性能的影响。
• $LinearAE+TEMAML$: 使用基于线性投影的自编码器 (Linear Autoencoder) 进行 Span 和 Log 属性融合。这是 GluAE 的简化版本，不使用门控机制。
• $GluAE+TEMAML$: 使用基于门控线性单元 (Gated Linear Unit, GLU) 的自编码器进行 Span 和 Log 属性融合。修改自 MSS 模态融合方法 [Lee et al. 2023]。

5.3.2. Transformer Encoder (TE) 替代方案

这些基线将 TraFaultDia 中的 TE 替换为其他基础模型，以执行多类别分类。

• $AttenAE+LinearMAML$: 将 TE 替换为基本线性模型。
• $AttenAE+RnnMAML$: 将 TE 替换为循环神经网络 (RNN)。包含此基线是因为 RNN 在异常检测中表现出有效性。
• $AttenAE+LstmMAML$: 将 TE 替换为长短期记忆网络 (LSTM)。类似 RNN，LSTM 也常用于序列数据的异常检测。
• $AttenAE+CnnMAML$: 将 TE 替换为卷积神经网络 (CNN)。CNN 在相关工作中 [Nedelkoski et al. 2019a] 被用于多类别异常调用链分类。

5.3.3. TEMAML 替代方案

这些基线探索了其他元学习方法或传统模型来替代 TEMAML 进行异常调用链分类。

• $AttenAE+TEMatchNet$: 将 TEMAML 替换为基于 Transformer Encoder 的 Matching Network [Vinyals et al. 2016]。
• $AttenAE+ProtoNet$: 将 TEMAML 替换为 Prototypical Network [Snell et al. 2017]。
• $AttenAE+NNeighbor$ (Nearest Neighbor): 最近邻分类器。
• $AttenAE+DTree$ (Decision Tree): 决策树分类器。

基线评估范围:

• $AttenAE+NNeighbor$ 和 $AttenAE+DTree$ 仅在系统内任务 (E1 和 E2) 上进行评估，因为它们作为基本的机器学习模型，难以有效适应新的未见过的跨系统分类任务（即不具备迁移学习能力）。
• 所有基线中，文本 Span 和 Log 属性的处理都使用了与 TraFaultDia 相同的神经表示方法 [Le and Zhang 2021]，以确保公平比较。

5.4. 实验设计

研究设计了四个实验 (E1-E4) 来评估 TraFaultDia：

• AttenAE 训练: 对于每个 MSS (TrainTicket/OnlineBoutique)，随机选择 3960 条无标签调用链（3360 条用于训练 / 570 条用于验证）来训练 AttenAE，以构建调用链表示。这些调用链不与故障数据集重叠。

• TEMAML 训练与评估: 使用构建好的故障数据集进行。

  • 任务设置: 每个元训练任务 $T_i$ 和元测试任务 $T_{ts}$ 都配置为 5-way 5-shot 或 5-way 10-shot：包含5个故障类别，每个类别有 5 或 10 个标注实例作为支持集 ($S_i, S_{ts}$)。
  • 评估: 对查询集 ($Q_i, Q_{ts}$) 进行评估，每个查询集包含每个故障类别 15 个调用链实例。
  • 任务生成:
    • 对于每个 MSS，从其基础故障类别中随机生成 4 个元训练任务（通过 4 次选择 5 个故障类别的唯一排列）。
    • 对于每个 MSS，从其新颖故障类别中随机生成 50 个元测试任务（通过 50 次选择 5 个故障类别的唯一排列）。

• 具体实验:

  • E1 (TrainTicket → TrainTicket): 在 TrainTicket 的 4 个元训练任务上训练 TEMAML，并在 TrainTicket 的 50 个元测试任务上评估。
  • E2 (OnlineBoutique → OnlineBoutique): 在 OnlineBoutique 的 4 个元训练任务上训练 TEMAML，并在 OnlineBoutique 的 50 个元测试任务上评估。
  • E3 (OnlineBoutique → TrainTicket): 在 OnlineBoutique 的 4 个元训练任务上训练 TEMAML，并在 TrainTicket 的 50 个元测试任务上评估。
  • E4 (TrainTicket → OnlineBoutique): 在 TrainTicket 的 4 个元训练任务上训练 TEMAML，并在 OnlineBoutique 的 50 个元测试任务上评估。

5.5. 实施细节

所有实验都在一台配备 32 核 CPU 和 NVIDIA Ampere A100 GPU (40 GB 显存) 的 Linux 服务器上进行，使用 Python 3.10.6。AttenAE 和 TEMAML 均使用 AdamW 优化器进行训练。详细的实现和超参数设置可在复制包 [Wang et al. 2025] 中找到。

6. 实验结果与分析

6.1. 核心结果分析

TraFaultDia 在各项实验中均表现出色，验证了其在系统内和跨系统背景下的有效性。

6.1.1. 有效性 (Effectiveness)

以下是原文 Table 3 的结果： 表3. TraFaultDia 和基线在 TrainTicket 的50个元测试任务上的比较：平均准确率 (95% CI) 和最小-最大范围。

• E1 (TrainTicket→TrainTicket): 在 TrainTicket 的 4 个元训练任务上训练。

• E3 (OnlineBoutique→TrainTicket): 在 OnlineBoutique 的 4 个元训练任务上训练。

  Model	E1 (TrainTicket→TrainTicket) 5-shot	E1 (TrainTicket→TrainTicket) 10-shot	E3 (OnlineBoutique→TrainTicket) 5-shot	E3 (OnlineBoutique→TrainTicket) 10-shot
  Our TraFaultDia	92.91±2.10 (74.67-100.0)	93.26±1.40 (76.00-100.0)	86.35±2.00 (70.67-100.0)	92.19±1.99 (74.67-100.0)
  AttenAE alternative:
  OnlySpan+TEMAML	80.64±2.84 (57.33-97.33)	78.77±2.80 (60.00-97.33)	79.25±2.89 (57.33-97.33)	80.19±3.10 (56.00-97.33)
  Multihead attention fusion alternatives:
  LinearAE+TEMAML	89.15±2.29 (73.33-100.0)	90.59±2.43 (70.67-100.0)	83.09±2.55 (62.67-97.33)	90.61±2.01 (72.00-100.0)
  GluAE+TEMAML	92.21±1.73 (77.33-100.0)	93.07±1.64 (77.33-100.0)	85.07±2.38 (66.67-100.0)	94.40±2.19 (72.00-100.0)
  Transformer encoder alternatives:
  AttenAE+LinearMAML	45.84±2.21 (25.33-61.33)	45.36±2.16 (30.67-60.00)	43.81±1.99 (28.00-58.67)	43.87±1.93 (29.33-60.00)
  AttenAE+RnnMAML	49.65±2.09 (37.33-64.00)	42.88±1.93 (24.00-58.67)	48.45±1.75 (38.67-65.33)	47.07±1.88 (34.67-58.67)
  AttenAE+LstmMAML	41.39±2.20 (21.33-56.00)	42.67±1.91 (29.33-56.00)	40.32±1.68 (22.67-52.00)	42.29±1.79 (25.33-56.00)
  AttenAE+CnnMAML	57.06±2.85 (41.33-81.00)	69.20±2.19 (56.00-88.00)	49.04±1.80 (38.67-64.00)	69.47±2.65 (48.00-89.33)
  TEMAML alternatives:
  AttenAE+TEMatchNet	76.56±2.80 (49.33-93.33)	76.05±2.37 (50.67-94.67)
  AttenAE+ProtoNet	57.25±0.03 (40.00-74.67)	59.68±0.03 (44.00-76.00)
  AttenAE+NNeighbor	88.19±0.02 (74.67-98.67)	92.56±0.02 (78.00-100.0)
  AttenAE+DTree	66.80±0.03 (46.67-88.00)	77.09±0.03 (54.67-96.00)

以下是原文 Table 4 的结果： 表4. TraFaultDia 和基线在 OnlineBoutique 的50个元测试任务上的比较：平均准确率 (95% CI) 和最小-最大范围。

• E2 (OnlineBoutique→OnlineBoutique): 在 OnlineBoutique 的 4 个元训练任务上训练。

• E4 (TrainTicket→OnlineBoutique): 在 TrainTicket 的 4 个元训练任务上训练。

  Model	E2 (OnlineBoutique→OnlineBoutique) 5-shot	E2 (OnlineBoutique→OnlineBoutique) 10-shot	E4 (TrainTicket→OnlineBoutique) 5-shot	E4 (TrainTicket→OnlineBoutique) 10-shot
  Our TraFaultDia	82.50±2.35 (65.33-98.67)	85.20±2.33 (66.67-98.67)	82.37±2.07 (64.00-97.33)	84.77±2.28 (68.00-98.67)
  AttenAE alternative:
  OnlySpan+TEMAML	72.83±2.40 (57.33-88.00)	73.15±2.81 (46.67-92.00)	71.81±2.25 (56.00-85.33)	73.60±2.21 (57.33-85.33)
  Multihead attention fusion alternatives:
  LinearAE+TEMAML	76.15±2.59 (60.00-95.00)	78.21±2.50 (64.00-96.00)	75.81±2.45 (52.00-89.33)	74.32±2.44 (53.33-88.00)
  GluAE+TEMAML	80.61±2.96 (58.67-98.67)	77.49±2.67 (48.00-94.67)	74.96±2.76 (54.67-94.67)	77.57±2.70 (56.00-94.67)
  Transformer encoder alternatives:
  AttenAE+LinearMAML	42.59±3.63 (20.00-77.33)	40.75±3.53 (21.33-68.00)	47.01±3.59 (25.33-74.67)	44.35±4.10 (20.00-89.33)
  AttenAE+RnnMAML	72.59±2.50 (54.67-94.67)	64.75±2.53 (46.67-80.00)	72.58±2.58 (54.70-94.70)	71.01±2.80 (56.00-89.33)
  AttenAE+LstmMAML	54.80±2.11 (40.00-70.67)	55.97±2.25 (41.33-69.33)	56.19±1.92 (38.67-72.00)	59.71±2.05 (42.67-77.33)
  AttenAE+CnnMAML	80.10±2.16 (60.00-94.67)	83.07±3.29 (68.00-97.33)	79.01±2.63 (56.00-97.33)	84.08±2.76 (65.33-100.0)
  TEMAML alternatives:
  AttenAE+TEMatchNet	76.29±3.00 (54.67-96.00)	73.11±2.94 (50.67-94.67)
  AttenAE+ProtoNet	74.51±0.03 (53.33-92.00)	76.59±0.04 (58.66-94.67)
  AttenAE+NNeighbor	80.96±0.03 (64.00-98.67)	84.75±0.03 (62.80-98.67)
  AttenAE+DTree	66.99±0.02 (54.67-80.00)	73.79±0.03 (58.67-82.67)

从表3和表4可以看出：

• TraFaultDia 的卓越性能: TraFaultDia 在所有实验设置（5-shot 和 10-shot）中都展示了高平均准确率，表明其在系统内和跨系统上下文中的有效性。在 TrainTicket (E1) 10-shot 设置下达到了 93.26%，在 OnlineBoutique (E2) 10-shot 设置下达到了 85.20%。跨系统方面 (E3, E4)，性能也保持在 84% 到 92% 的高水平。

• 与其他有效基线的比较:

  • $GluAE+TEMAML$ 和 $LinearAE+TEMAML$ 在某些设置（如 E1 和 E3）中达到了与 TraFaultDia 相似的高准确率，但在 E2 和 E4 设置中分别比 TraFaultDia 低约 2%-8% 和 7%-10%。这表明 TraFaultDia 在不同系统上的鲁棒性更强。

  • $AttenAE+CnnMAML$ 在 E2 和 E4 设置中获得了约 79.01%-84.08% 的平均准确率，但在 E1 和 E3 设置中仅获得 49.04%-69.47% 的平均准确率，表现不够稳定。

  • $AttenAE+NNeighbor$ 在系统内适应性方面 (E1 和 E2) 与 TraFaultDia 的平均准确率差距不大（约 1%-4%），但在跨系统适应性方面存在限制（未评估）。

    以下是原文 Table 5 的结果： 表5. 50个元测试任务准确率的 t-test 结果，比较 TraFaultDia 与实验中有效的基线。

• ***p < 0.001; **p < 0.01; *p < 0.05

  Our TraFaultDia v.s. E1	5-shot	10-shot	E3 5-shot	10-shot
  GluAE+TEMAML	0.0719	0.5347	0.0045***	7.74e-07***
  LinearAE+TEMAML	1.62e-13***	1.14e-09***	1.87e-10***	0.0005***
  AttenAE+NNeighbor	7.10e-29***	0.0006***		−
  Our TraFaultDia v.s. E2	5-shot	10-shot	E4 5-shot	10-shot
  GluAE+TEMAML	0.0006***	6.95e-28***	1.70e-27***	9.15e-27***
  AttenAE+CnnMAML	6.65e-07***	0.0003***	2.01e-10***	0.176
  AttenAE+NNeighbor	1.11e-05***	0.1752

以下是原文 Table 6 的结果： 表6. 效应量：Cohen's d 值比较 TraFaultDia 与有效基线。

• 统计显著性与效应量:

  • 除了在 E1 设置中 $GluAE+TEMAML$ 和 E2 10-shot 设置中 $AttenAE+NNeighbor$ 以及 E4 10-shot 设置中 $AttenAE+CnnMAML$ 之外，TraFaultDia 在所有其他 E1-E4 设置中都与基线存在显著差异 ($\text{p} < 0.001$)。
  • TraFaultDia 对 $GluAE+TEMAML$ 主要在 E2 和 E4 中以及对 $LinearAE+TEMAML$ 和 $AttenAE+NNeighbor$ 在所有实验的 5-shot 设置中，都显示出大的正效应量 (Cohen's d > 0.8)。这提供了强有力的证据，表明 TraFaultDia 在大多数实验设置中优于这些基线。

• 探索结果:

  • 在 OnlineBoutique 的 E2 和 E4 元测试任务中，TraFaultDia 和三个最有效基线的最低准确率（48%-68%）出现在对由性能问题（CPU contention、CPU consumption 和 network delay）引起的异常调用链进行分类时。
  • 这表明，将 CPU、内存和网络流量等性能指标纳入调用链表示的构建，可能会提高 TraFaultDia 和基线在分类此类故障时的准确率。

6.1.2. 效率 (Efficiency)

以下是原文 Table 7 的结果： 表7. TraFaultDia 和有效基线的训练时间（秒）。

• * 此基线的训练时间仅计算其在元训练任务的支持集上的训练时间，以避免因不同调用链表示方法引起的差异。

  	E1 5-shot	E1 10-shot	E3 5-shot	E3 10-shot
  Our TraFaultDia	36.3394	25.8387	46.0045	62.7578
  GluAE+TEMAML	19.9185	20.6976	42.3725	78.0125
  LinearAE+TEMAML	17.7576	45.1150	119.6440	30.5474
  AttenAE+NNeighbor*

  	E2 5-shot	E2 10-shot	E4 5-shot	E4 10-shot
  Our TraFaultDia	40.9426	65.3120	32.4136	53.3256
  GluAE+TEMAML	20.1432	58.8608	21.6602	47.0818
  AttenAE+CnnMAML	23.9832	36.7725	15.6358	23.6530
  AttenAE+NNeighbor*

• 训练时间: 表7显示，与基线相比，TraFaultDia 在某些 E3 设置中训练时间减少了约 6-73 秒，但在 E1、E2、E4 中，训练时间增加了约 4-29 秒。这表明 TraFaultDia 的训练开销在某些情况下可能略高，但在整体上处于可接受范围。

  以下是原文 Table 8 的结果： 表8. 每元测试任务的测试时间（秒），TraFaultDia 和有效基线。

• 测试时间指的是在每个实验的50个元测试任务的查询集 $Q_{ts}$ 上评估每个方法所花费的时间。

  	E1 5-shot	E1 10-shot	E3 5-shot	E3 10-shot
  Our TraFaultDia	0.0460	0.0680	0.0651	0.0953
  GluAE+TEMAML	0.0640	0.0942	0.0651	0.0954
  LinearAE+TEMAML	0.0748	0.0946	0.0640	0.0944
  AttenAE+NNeighbor	0.1860	0.1890

  	E2 5-shot	E2 10-shot	E4 5-shot	E4 10-shot
  Our TraFaultDia	0.0848	0.0977	0.0875	0.0974
  GluAE+TEMAML	0.0801	0.0978	0.0731	0.0969
  AttenAE+CnnMAML	0.0470	0.0472	0.0417	0.0490
  AttenAE+NNeighbor	0.5140	0.5307

• 测试时间: 表8显示，包括 TraFaultDia 在内的 MAML 相关方法，其测试时间比 $AttenAE+NNeighbor$ 少约 4-11 倍。这是因为 $AttenAE+NNeighbor$ 需要将每个新调用链与所有现有标注实例进行比较，随着数据集的扩展，这会导致显著增加的测试时间。在实际运维场景中，元学习方法在适应新任务时的快速性是其显著优势。

  以下是原文 Table 9 的结果： 表9. 各 MSS 调用链构建方法的训练时间（分钟）。

以下是原文 Table 10 的结果： 表10. 每元测试任务的平均调用链构建时间（秒）。

• 调用链表示构建时间: 表9和表10显示，AttenAE、GluAE、LinearAE 的训练时间和调用链构建时间相似。OnlySpan 的训练和构建时间大约减半，因为它完全忽略了日志。然而，$OnlySpan+TEMAML$ 基线在 E1-E4 设置中平均准确率比其他方法低约 10%（见表3-4），这表明在构建表示时只考虑 Span 数据是不够的。

6.2. 消融实验/参数分析

以下是原文 Table 11 的结果： 表11. 每个实验中元训练任务数量的消融研究。

• AttenAE 的贡献: 如表3和表4所示，TraFaultDia 始终比 $OnlySpan+TEMAML$（AttenAE 的替代方案，即不使用日志信息）高出约 10% 的准确率，这明确表明 AttenAE 在融合多模态数据方面对整体有效性做出了重要贡献。
• 元训练任务数量的消融研究: 研究还对训练 TEMAML 所需的元学习任务数量进行了消融研究。目前的实验使用了 4 个元训练任务。通过测试 2-4 个元训练任务，结果显示使用 4 个元训练任务在每个实验的 50 个元测试任务中产生了最佳的平均准确率（见表11）。这与 MAML 作为多任务学习算法的性质相符：包含更多样化的元训练任务可以增强算法的鲁棒性，提高其在不同上下文中适应新任务的能力。

6.3. 对研究问题的回答

根据实验结果，研究者对提出的两个研究问题给出以下回答：

• RQ1: 系统内适应性 (Within-system adaptability): TraFaultDia 在系统内（TrainTicket → TrainTicket 和 OnlineBoutique → OnlineBoutique）的 50 个新任务上，分别实现了 93.26% 和 85.20% 的高平均准确率（10-shot 设置），并且适应速度快。这表明 TraFaultDia 一旦在 MSS 内部的任务上训练充分，可以有效且高效地适应同一 MSS 内部的新异常调用链分类任务。

• RQ2: 跨系统适应性 (Cross-system adaptability): TraFaultDia 在跨系统（OnlineBoutique → TrainTicket 和 TrainTicket → OnlineBoutique）的 50 个新任务上，分别实现了 92.19% 和 84.77% 的高平均准确率（10-shot 设置），并且适应速度快。这表明 TraFaultDia 训练在一个 MSS 上后，可以有效且高效地适应不同 MSS 的新异常调用链分类任务。

  结论: 综合来看，TraFaultDia 在分类 MSS 中的异常调用链到精确故障类别方面，展示了有效且快速的系统内和跨系统适应性。

7. 总结与思考

7.1. 结论总结

本文提出了 TraFaultDia，一个新颖的 AIOps 框架，旨在自动将微服务系统 (MSS) 中的异常调用链分类到具体的故障类别中。该框架通过两个核心组件实现其目标：

1. AttenAE (Multi-Head Attention Autoencoder): 负责无监督地构建统一且压缩的调用链表示。它通过融合高维、多模态的 Span 和 Log 数据，有效地捕捉了调用链的关键特征，解决了数据复杂性的挑战。

2. TEMAML (Transformer-Encoder based Model-Agnostic Meta-Learning): 利用元学习范式，使得模型能够在仅有少量标注实例的情况下，快速适应新的、未见的异常调用链分类任务，并具备强大的跨系统适应性。这解决了 MSS 异构性和故障类别数据稀缺的问题。

   在两个代表性的基准 MSS (TrainTicket 和 OnlineBoutique) 的开放数据集上进行的评估显示，TraFaultDia 展现出卓越的性能。它不仅在系统内分类任务中实现了高准确率（TrainTicket 93.26%，OnlineBoutique 85.20%），而且在跨系统场景下也保持了相似的有效性（TrainTicket 92.19%，OnlineBoutique 84.77%），同时保持了快速的适应时间。通过自动将异常调用链分类到与故障组件和根本原因关联的故障类别，TraFaultDia 大幅减少了人工分析的需求，提高了故障诊断的效率。

7.2. 局限性与未来工作

论文作者指出了 TraFaultDia 存在的以下局限性，并提出了相应的未来研究方向：

1. 数据集限制:

   • 非真实世界数据: 研究使用了来自基准系统（DeepTraLog 和 Nezha）的开放数据集，而非真实世界的生产系统数据。真实世界的系统具有更高的复杂性、规模和多样性，可能影响框架的普遍适用性。
   • 缺失性能指标: 尽管 AttenAE 融合了 Span 和 Log 属性，但未包含 CPU、内存使用率、网络流量等性能指标。实验结果的探索性分析表明，对于性能相关的故障（如 CPU 争用、网络延迟），这种缺失可能导致分类准确率较低。
   • 故障类型覆盖有限: 研究使用了 TrainTicket 的 30 个故障类别和 OnlineBoutique 的 32 个故障类别。为了确保实验设置中的任务分布，采用了 5-way 设置。但现实世界中故障类型可能更广泛、更复杂。
   • 未来工作: 作者正在选择和部署真实的工业 MSS，并生成新的数据集，以解决这些数据集相关的局限性。

2. 可扩展性、通用性和可解释性:

   • 通用性提升: 现有局限性可能导致框架的通用化能力未得到充分利用。未来工作将致力于进一步提高 TraFaultDia 的通用性。
   • 可扩展性: 需要验证框架在更大规模、更复杂的真实世界 MSS 中的可扩展性。
   • 可解释性: 增强模型的诊断结果可解释性，帮助运维人员更好地理解分类依据。

7.3. 个人启发与批判

7.3.1. 个人启发

1. 元学习在 AIOps 领域的巨大潜力: 本文成功地将元学习引入微服务系统的故障诊断，解决了数据稀缺和系统异构性两大实际挑战。这为 AIOps 领域提供了一个非常有前景的方向，即如何构建能够“学会学习”的系统，从而在不断变化的生产环境中快速适应新问题。
2. 多模态数据融合的重要性: 通过 AttenAE 融合 Span 和 Log 数据，表明了在复杂分布式系统中，单一视角的观测数据往往不足以进行精确诊断。有效整合不同模态的信息是提升诊断准确率的关键。这一点对于其他依赖多源异构数据的 AIOps 任务也具有借鉴意义。
3. 从“检测”到“诊断”的进步: 大多数 AIOps 研究停留在异常检测和定位层面，而本文迈向了更深层次的故障分类和根本原因识别。这对于提高故障处理效率、减少人工干预具有直接的实用价值，真正将 AI 从“报警器”变成了“诊断医生”。
4. Transformer 架构的灵活性: Transformer Encoder 在处理由 AttenAE 生成的潜在表示而非传统序列数据时仍能表现出色，这凸显了其自注意力机制的强大特征捕获能力和架构的通用性，不仅限于 NLP 领域。

7.3.2. 批判与潜在改进

1. AttenAE 训练的实际开销与依赖: 尽管 AttenAE 的训练是无监督的，但在每个新的 MSS 上都需要“足够多”的无标签调用链进行训练。对于刚刚部署的新系统，或者数据收集基础设施不完善的系统，获取“足够多”的无标签调用链本身可能也是一个挑战。此外，如果 MSS 频繁迭代，AttenAE 是否需要频繁重新训练以适应新的服务行为？这可能是一个隐藏的维护成本。
2. 故障类别定义的粒度与动态性: 论文将故障类别与故障组件和根本原因关联，但实际生产环境中，故障类别可能更加复杂且动态演变。如何将新的故障类型自动纳入 TraFaultDia 的识别范畴，或者如何动态更新故障类别定义，是需要进一步探讨的问题。目前的 N-Way K-Shot 设置依赖于预定义的 N 个类别。
3. “少样本”标签获取的挑战: 尽管 10 个标注实例已经很“少”，但在实际运维中，为每个新的故障类别获取这 10 个高质量的标注实例本身仍需人工介入。特别是在新故障出现时，可能需要专家进行初步诊断和标注，这仍然是一个瓶颈。如何进一步减少 K 值，甚至实现零样本学习，将是未来的重要方向。
4. 未纳入性能指标的影响: 论文指出了未纳入性能指标（CPU、内存等）是导致某些性能相关故障分类准确率较低的原因。这说明当前基于 Span 和 Log 的特征表示，即使融合，也可能无法完全捕获所有类型的故障信息。未来的工作应考虑如何无缝地整合这些多源、异构的性能指标，同时不增加模型和数据的复杂性。
5. 统计显著性结果的进一步讨论: 在表5中，E4 10-shot 设置下 $AttenAE+CnnMAML$ 的 p 值为 0.176，E2 10-shot 设置下 $AttenAE+NNeighbor$ 的 p 值为 0.1752，这些 p 值高于通常的 0.05 显著性水平，表明 TraFaultDia 在这些特定场景下与这些基线的性能差异不具有统计学显著性。尽管 Cohen's d 值相对较小（0.27），说明效应量不大，但仍值得关注。这提示 TraFaultDia 并非在所有具体场景和所有基线面前都绝对领先。其真正的优势在于其鲁棒性和跨系统适应性，而非在每个单一设置下都超越所有可能的简单基线。未来的工作可以针对这些特定场景进行更深入的分析，以进一步提升模型的普遍优越性。
6. 可解释性不足: 尽管 TraFaultDia 能够分类，但其内部的 AttenAE 和 Transformer Encoder 都是深度学习模型，其决策过程相对“黑盒”。在故障诊断中，除了知道“是什么故障”，运维人员往往还需要知道“为什么是这个故障”，以及提供具体的证据。增强模型的可解释性，例如通过注意力权重可视化，将是其在实际应用中被广泛接受的关键。