1. 论文基本信息

1.1. 标题

iBitter-Stack: A Multi-Representation Ensemble Learning Model for Accurate Bitter Peptide Identification

1.2. 作者

Sarfraz Ahmad, Momina Ahsan, Muhammad Nabeel Asim, Andreas Dengel, Muhammad Imran Malik

1.3. 发表期刊/会议

该论文将发表在 Journal of Molecular Biology 上。Journal of Molecular Biology 是一本在分子生物学领域具有较高声誉和影响力的同行评审学术期刊，主要发表关于分子生物学结构、功能和演化方面的原创研究。

1.4. 发表年份

2025年。论文接收日期为2025年9月15日，预计发布日期为2025年9月19日。

1.5. 摘要

苦味肽 (bitter peptides) 的识别在食品科学、药物发现和生物化学研究中至关重要，但传统的实验方法成本高昂且耗时。随着肽序列数据库的快速增长，对高效计算方法的需求日益增加。本文提出了一种新颖的基于堆叠 (stacking-based) 的集成学习 (ensemble learning) 框架 iBitter-Stack，旨在提高苦味肽分类的准确性和可靠性。该模型整合了多种序列特征表示，包括来自蛋白质语言模型 (Protein Language Models, PLMs) 的嵌入以及手工设计的物理化学 (physicochemical) 和组成 (compositional) 描述符，并利用了广泛的机器学习 (Machine Learning, ML) 分类器。第一层堆叠包含多个基础分类器 (base classifiers)，每个都在不同的特征编码方案上训练；第二层则采用逻辑回归 (Logistic Regression) 模型，使用一个八维概率向量来精炼预测结果。在精心策划的数据集上进行的广泛评估表明，iBitter-Stack 显著优于现有预测方法，在独立测试集上取得了 96.09% 的准确率 (Accuracy) 和 0.9220 的马修斯相关系数 (Matthews Correlation Coefficient, MCC)，证明了其有效性和泛化能力。为便于实时使用和更广泛的访问，作者还开发了一个用户友好的网络服务器，可免费访问以方便研究人员筛选肽序列的苦味。

1.6. 原文链接

原文链接: /files/papers/691751d8110b75dcc59ae057/paper.pdf 发布状态: Journal Pre-proofs (预印本)。这意味着该论文已通过同行评审并被接受，但在最终出版前可能还会进行额外的校对、排版和审查。

2. 整体概括

2.1. 研究背景与动机

苦味是生物体识别和避免潜在有害物质的关键防御机制。然而，许多天然存在的苦味化合物，包括苦味肽，在营养和医药领域具有重要价值。苦味肽通常在蛋白质水解过程中产生，在食品科学和药物开发中具有特殊意义。传统上，苦味肽的识别依赖于生化分析、人类感官评估和色谱分离等实验技术，这些方法耗时、劳动密集且成本高昂。此外，人类感官评估还引入了主观性和个体间差异，影响了结果的重现性。

随着后基因组时代肽序列数据库的快速扩展，开发快速、准确的计算方法来识别苦味肽成为迫切需求。现有的计算方法，例如定量结构-活性关系 (QSAR) 模型和基于机器学习的模型，已经取得了一定进展。然而，这些方法仍存在一些局限性：

• 单一特征表示的局限性：早期的序列基预测器如 iBitterSCM 依赖单一类型的特征表示（如二肽组成），限制了其泛化能力。

• 缺乏物理化学性质整合：一些基于深度学习 (Deep Learning, DL) 的模型，如 BERT4Bitter 和 UniDL4BioPep，虽然利用了蛋白质语言模型 (Protein Language Models, PLMs) 来提取高级序列特征，但忽略了与苦味产生机制相关的关键物理化学性质。

• 集成策略的优化空间：即使是采用集成学习 (ensemble learning) 的最新模型，如 iBitter-GRE，也可能存在固定基础分类器集合、早期特征融合导致冗余或稀释、以及未能充分利用更多信息丰富的序列级表示等问题。

  因此，本研究的动机是开发一种更准确、鲁棒和可泛化的计算工具，通过整合多种特征表示和优化集成学习策略来克服这些挑战，以高效识别苦味肽。

2.2. 核心贡献/主要发现

本文 iBitter-Stack 的核心贡献和主要发现包括：

• 提出新颖的堆叠集成学习框架：iBitter-Stack 是一个多表示集成学习模型，它结合了深度序列嵌入和手工设计的生化特征，以提高苦味肽识别的准确性。
• 多视图特征整合策略：该框架系统地整合了七种不同的特征表示，包括来自 ESM-2 的上下文嵌入以及多种手工设计的物理化学和组成描述符（如 DPC、AAE、BPNC、AAI、GTPC、CTD）。这种多视图策略旨在全面捕捉肽序列的上下文、结构和生化特性。
• 系统化的基础学习器构建与筛选：通过组合七种特征编码和八种机器学习分类器，共构建了 56 个基础学习器 (base learners)。随后，采用严格的性能筛选标准（$MCC > 0.8$ 且 $Accuracy > 90$）来选择表现最佳的基础学习器，确保了集成模型的质量。
• 高效的元学习器设计：选定的基础学习器输出的概率分数被组合成一个八维的元数据集 (meta-dataset)，然后由一个逻辑回归 (Logistic Regression) 模型作为元学习器 (meta-learner) 进行训练，以学习如何最佳地融合基础学习器的预测，从而增强预测的鲁棒性和准确性。
• 卓越的性能表现：
  • 在独立测试集上，iBitter-Stack 取得了 96.1% 的准确率 (Accuracy)、0.922 的马修斯相关系数 (Matthews Correlation Coefficient, MCC) 和 0.981 的受试者工作特征曲线下面积 (AUROC)。
  • 该模型显著优于现有最先进 (state-of-the-art) 的预测方法，特别是在 10 折交叉验证 (10-fold cross-validation) 中展示了极高的稳定性和泛化能力。
• 提供用户友好型网络服务器：为了促进研究成果的实际应用和广泛可访问性，作者开发了一个免费的在线网络服务器 ibitter-stack-webserver.streamlit.app，支持单序列和批量肽预测。
• 鲁棒性验证：通过额外的序列相似度过滤实验（移除训练集和测试集之间高于 80% 序列同一性的肽），模型在更严格的评估条件下仍保持了强大的性能，证实了其方法的鲁棒性。

3. 预备知识与相关工作

本节旨在为读者提供理解 iBitter-Stack 模型所必需的背景知识，并阐述该工作与现有研究的联系与区别。

3.1. 基础概念

• 苦味肽 (Bitter Peptides)：一类具有苦味的短链蛋白质片段。它们通常在蛋白质水解过程中产生，其苦味特性与肽的疏水性氨基酸残基（特别是 C-末端区域）的含量和分布密切相关。在食品工业中，苦味肽可能导致产品风味不佳；但在药物发现中，一些苦味肽也可能具有生物活性。
• 生物信息学 (Bioinformatics)：利用计算机技术对生物数据进行收集、存储、管理、分析和解释的跨学科领域。在肽研究中，生物信息学方法常用于预测肽的结构、功能和生物活性。
• 序列分类 (Sequence Classification)：一种机器学习 (Machine Learning, ML) 任务，旨在根据给定序列的特征将其归类到预定义的类别中。在本文中，即是将肽序列分类为“苦味肽”或“非苦味肽”。
• 机器学习 (Machine Learning, ML)：人工智能的一个分支，使计算机系统能够从数据中学习，而无需进行明确的编程。常见的机器学习算法包括支持向量机 (Support Vector Machines, SVM)、决策树 (Decision Tree, DT)、朴素贝叶斯 (Naive Bayes, NB)、K 近邻 (K-Nearest Neighbors, KNN)、逻辑回归 (Logistic Regression, LR)、随机森林 (Random Forest, RF)、自适应增强 (Adaptive Boosting, AdaBoost) 和多层感知机 (Multilayer Perceptron, MLP) 等。
• 集成学习 (Ensemble Learning)：一种机器学习范式，通过组合多个学习器（也称为基础学习器，base learners）来解决同一个问题，以获得比单个学习器更好的预测性能。常见的集成方法包括 Bagging (如随机森林)、Boosting (如 AdaBoost) 和 Stacking。
• 堆叠 (Stacking)：一种先进的集成学习技术，它训练一个“元学习器 (meta-learner)”来结合多个不同类型的基础学习器的预测。基础学习器在原始数据集上训练，然后它们的预测（通常是类概率）作为新特征输入到元学习器中，元学习器再进行最终预测。
• 蛋白质语言模型 (Protein Language Models, PLMs)：一类基于深度学习的模型，通过在大规模未标记蛋白质序列数据上进行预训练，学习蛋白质序列的语法和语义信息。它们能够将蛋白质序列映射到高维度的嵌入向量（embeddings），这些嵌入能够捕捉蛋白质的进化、结构和功能信息。
• ESM (Evolutionary Scale Modeling)：由 FAIR（Facebook AI Research）开发的一个 PLM 项目，旨在利用进化信息增强蛋白质和肽序列的表示。ESM-2 是其最新版本，在多种结构预测任务中表现出色，能够生成捕捉序列上下文和生物学信号的嵌入。
• 特征工程 (Feature Engineering)：从原始数据中选择、提取和转换特征的过程，以使其更能被机器学习算法理解和利用。在肽序列分析中，特征工程涉及将氨基酸序列转换为数值表示，如组成特征、物理化学特征等。
• Dipeptide Composition (DPC，二肽组成)：一种肽序列特征编码方法，通过计算序列中所有可能的相邻氨基酸对（二肽）的频率来表示肽。它捕捉了肽的局部序列模式。
• Amino Acid Entropy (AAE，氨基酸熵)：一种位置基特征，量化了特定氨基酸在肽序列中分布的无序性或变异性。它可以反映肽的结构和功能特性。
• Binary Profile-based Encoding for N and C-terminal residues (BPNC，N/C-末端残基二值剖面编码)：一种针对肽 N-末端和 C-末端区域的二值特征编码方法。它将每个氨基酸表示为 20 维的二值向量，重点关注肽末端在功能上的关键作用。
• Amino Acid Index (AAI，氨基酸指数)：基于 AAindex 数据库中的理化性质来表示肽。它综合了氨基酸的多种化学特性，如疏水性、亲水性、电荷等，为肽提供了理化特征描述。
• Grouped Tripeptide Composition (GTPC，分组三肽组成)：将氨基酸根据其理化性质分为不同组，然后计算这些分组氨基酸形成的三肽（三个相邻氨基酸）的频率。它捕捉了氨基酸之间更复杂的三维相互作用。
• Composition-Transition-Distribution (CTD，组成-转换-分布)：一种综合性的特征编码方法，描述了肽序列中氨基酸的组成 (Composition)、某种性质（如亲水性、疏水性）氨基酸之间的转换 (Transition) 频率以及这些氨基酸在序列中的分布 (Distribution) 模式。

3.2. 前人工作与技术演进

肽生物活性预测领域经历了从传统实验方法到计算方法的显著演进。

3.2.1. 传统实验方法

早期对苦味肽的识别主要依赖于生化分析 (biochemical assays)、人类感官评估 (human sensory evaluation) 和色谱分离 (chromatography-based separation)。这些方法虽然有效，但存在以下缺点：

• 劳动密集 (labor intensive)：需要大量人工操作。
• 耗时 (time-consuming)：实验周期长。
• 昂贵 (costly)：实验设备和试剂投入大。
• 主观性 (subjectivity)：人类感官评估引入了主观性和个体间差异，影响结果的重现性。

3.2.2. 基于计算的方法

为克服传统方法的局限性，计算方法 (computational approaches)，特别是基于机器学习 (ML) 的方法，逐渐成为主流。

3.2.2.1. 定量结构-活性关系 (QSAR) 模型

• QSAR 模型利用机器学习算法（如 SVM、人工神经网络 ANN 和多元线性回归 MLR）建立肽描述符与其生物活性之间的数学关系。
• 例如，Yin et al. [15] 开发了 28 个 QSAR 模型来估计肽苦味。Soltani et al. [20] 分析了 229 种肽的苦味阈值。
• BitterX [21] 和 BitterPredict [22] 是早期利用 ML 分类技术识别苦味化合物的开放获取工具。
• 局限性：这些模型通常依赖于手工设计的特征，可能无法捕捉序列中的复杂模式和上下文信息。

3.2.2.2. 序列基预测器

• iBitterSCM [23]：最早的序列基预测器之一，利用二肽倾向性分数 (dipeptide propensity scores) 进行苦味预测，在独立验证测试中表现出高准确率。
  • 局限性：过度依赖单一类型的特征表示（如 DPC），限制了其泛化能力。
• BERT4Bitter [24]：基于深度学习，应用自然语言处理 (NLP) 技术直接从原始肽序列中提取特征表示。该方法提高了预测准确率。
  • 局限性：缺乏与物理化学性质的整合，而这些性质对于理解苦味的生化机制至关重要。

3.2.2.3. 多表示学习 (Multi-representation Learning)

为了克服单一特征的局限性，研究开始探索结合多种特征表示的方法。

• iBitter-Fuse [31]：引入了一个 ML 流水线，整合了多种特征编码方案，包括 DPC、氨基酸组成 (Amino Acid Composition, AAC)、伪氨基酸组成 (Pseudo Amino Acid Composition, PAAC) 和物理化学性质。它通过遗传算法进行特征选择，并使用 SVM 分类器。

  • iBitter-Fuse 在独立测试集上达到了 0.930 的准确率和 0.859 的 MCC。
  • 局限性：其 MCC 相对于最新方法较低，可能因为仅依赖手工特征；若能结合 NLP 基预训练嵌入可能会进一步提高鲁棒性和泛化能力。

• iBitterDRLF [32]：结合深度表示学习技术，利用两种肽序列特征提取方法，提高了分类性能。

  • iBitterDRLF 在独立测试集上达到了 0.944 的准确率、0.977 的特异性 (Specificity) 和 0.889 的 MCC。
  • 局限性：依赖有限类型的深度表示，且缺乏集成学习技术，可能限制了其充分捕捉不同嵌入方案中互补特征信息的能力。

• UniDL4BioPep [33]：提出了一种通用的深度学习架构，利用预训练的蛋白质语言模型 (PLMs)，特别是 ESM-2 嵌入，并结合卷积神经网络 (CNN) 来克服传统特征提取的局限性。

  • 在苦味肽识别任务中，UniDL4BioPep 达到了 93.8% 的准确率和 0.875 的 MCC。
  • 局限性：与之前的 NLP 基方法类似，该方法也忽略了肽序列的物理化学性质和组成特征，可能限制了对影响肽生物活性的生化因素的全面理解。

• iBitter-GRE [35]：结合 ESM-2 嵌入和手工设计的生化描述符，构建了一个堆叠集成模型用于苦味肽预测。

  • iBitter-GRE 报道了 96.1% 的准确率和 0.923 的 MCC。
  • 局限性：
    1. 依赖固定的基础分类器集合，未能探索更广泛的学习器-特征组合空间。
    2. 早期融合 ESM 嵌入和物理化学描述符，可能引入冗余或特征稀释，未能有效利用各特征类型的独特贡献。
    3. 虽然包含部分生化描述符，但省略了一些信息丰富的序列级表示（如 AAE、GTC、CTD）。

3.3. 差异化分析

iBitter-Stack 旨在通过以下创新点克服现有方法的局限性，特别是在 iBitter-GRE 的基础上进行了改进：

1. 更广泛和多样化的基础学习器池：iBitter-GRE 依赖于三个固定的基础分类器。相比之下，iBitter-Stack 系统地构建了 56 个基础学习器，涵盖了更广泛的特征编码 (ESM、BPNC、DPC、AAE、AAI、GTPC、CTD) 和分类器组合 (SVM、DT、NB、KNN、LR、RF、AdaBoost、MLP)。这种广泛探索和严格筛选机制使得模型能够动态选择最佳表现的基础学习器，从而增强灵活性和潜在优化空间。

2. 后期融合策略：iBitter-GRE 采用了 ESM 嵌入与物理化学描述符的早期融合策略。iBitter-Stack 则采用元级别 (meta-level) 的融合方法，利用基础学习器的软概率输出 (soft probability vectors) 来构建元数据集。这种策略减少了冗余，鼓励了更平滑的决策边界，并提高了可解释性，因为它允许元学习器根据每个基础学习器的置信度来分配权重。

3. 更全面的特征表示：除了 ESM 嵌入和一些传统描述符外，iBitter-Stack 还额外整合了 AAE、GTC 和 CTD 等信息丰富的序列级表示，以更全面地理解肽的结构-功能关系。这些特征捕获了氨基酸在序列中的分布模式、化学环境和组合作用，补充了 ESM 嵌入的上下文信息。

4. 增强的鲁棒性和泛化能力：通过多样化的基础学习器和后期融合，iBitter-Stack 能够捕捉复杂和异构的肽序列模式。在 10 折交叉验证中，iBitter-Stack 表现出显著高于 iBitter-GRE 的稳定性，表明其在不同数据划分下具有更强的泛化能力。

   通过这些创新，iBitter-Stack 不仅在预测性能上具有竞争力，而且在设计上更具模块化、可扩展性和适应性，为未来的生物活性预测流水线提供了更强大的工具。

4. 方法论

本节将详细阐述 iBitter-Stack 模型的方法论，包括数据集准备、特征表示、基础学习器和元学习器构建以及评估指标。

4.1. 数据集

本研究采用了一个精心策划的基准数据集，名为 BTP640，该数据集在先前的研究中已被广泛使用。

4.1.1. 数据集来源与组成

• BTP640 数据集包含 320 个经过实验验证的苦味肽和 320 个非苦味肽，确保了数据集的平衡性，适用于二分类任务。
• 苦味肽：从多项经过同行评审的研究中精心收集，确保具有强实验验证。
• 非苦味肽：由于实验验证的非苦味肽数量有限，根据现有实践，非苦味肽是从 BIOPEP 数据库中随机选择的。BIOPEP 是一个综合且可靠的肽序列来源。

4.1.2. 数据集预处理

为了维护数据集的完整性和质量，采取了以下过滤步骤：

• 移除模糊氨基酸残基：排除了含有 X, B, U, Z 等模糊氨基酸残基的肽，因为这些符号通常表示序列中的不确定性或不常见修饰。
• 移除重复序列：删除了重复序列，以避免数据冗余和过拟合 (overfitting)。

4.1.3. 数据集划分

为了公平和无偏的模型训练与评估，数据集以 8:2 的比例随机划分为训练集和独立测试集。这种分层抽样 (stratified sampling) 方法确保了两个子集中的类别平衡：

• 训练集 (BTP-CV)：包含 256 个苦味肽和 256 个非苦味肽。
• 独立测试集 (BTP-TS)：包含 64 个苦味肽和 64 个非苦味肽。

4.1.4. 序列相似度过滤 (Appendix A)

为进一步缓解训练集与测试集之间可能存在的序列冗余和信息泄露，研究者进行了一项额外实验，对数据集进行了更严格的相似度过滤。

• 筛选标准：移除训练集和测试集之间序列同一性 (sequence identity) 大于等于 80% 的肽。
• 过滤流程：
  1. 内部过滤：首先对训练集内部和测试集内部进行两两比对，移除同一性超过 80% 的序列。
  2. 跨集过滤：然后将过滤后的测试集序列与过滤后的训练集序列进行比对，移除任何与训练集序列同一性超过 80% 的测试序列，确保训练集和测试集完全不重叠（在 80% 相似度以下）。
• 过滤结果：
  • 原始数据集大小：训练集 512 个肽（256 苦味，256 非苦味），测试集 128 个肽（64 苦味，64 非苦味）。
  • 过滤后数据集大小：训练集 428 个肽（219 苦味，209 非苦味），测试集 86 个肽（44 苦味，42 非苦味）。
  • 此次过滤导致数据集总规模适度减小，并产生了轻微的类别不平衡，但仍保留了足够的样本量进行可靠评估。

4.2. 特征表示 (Feature Representation)

给定一个肽序列 $P$，它可以表示为： $$P = p _ { 1 } p _ { 2 } p _ { 3 } \ldots p _ { N }$$ 其中 $p_i$ 表示序列 $P$ 中的第 $i$ 个氨基酸残基，$N$ 是肽的总长度。每个残基 $p_i$ 选自 20 种标准天然氨基酸。为了全面捕捉肽序列的各种属性，本研究采用了多种特征编码方案，包括深度语言模型嵌入、组成描述符、位置特定编码和物理化学性质描述符。

4.2.1. Evolutionary Scale Modeling (ESM) Embeddings

• ESM 是由 FAIR 于 2019 年启动的一个语言模型 (Language Model, LM) 项目，旨在通过进化信息增强蛋白质和肽序列的表示。

• ESM-2 是其最新版本，在 $UR50/D2021_04$ 数据集上训练，并在多种结构预测任务中表现优异。

• 模型选择：鉴于本研究中苦味肽数据集的规模，选择了 esm2_t6_8M_UR50D 变体，其具有 320 个输出嵌入维度。这个选择有助于简化模型架构并减轻维度灾难 (curse of dimensionality)。

• 嵌入生成：每个肽序列被输入到预训练的 ESM-2 模型中，以生成一个 1320 维的向量。这些嵌入是从模型的最后一层（第 6 层）提取的，被认为包含了与生物活性识别（包括苦味肽识别）最相关的序列信息。

  • 注：原文在此处描述为“生成一个 1320 维的向量”，但同时也提及了“320 个输出嵌入维度”以及图 1 中清晰标注的 sequence embedding (320-dim)。这可能存在原文笔误或指代了某种特殊的聚合方式。鉴于 esm2_t6_8M_UR50D 的标准序列嵌入输出通常是 320 维，这里 1320 维的来源未明示。为忠实原文，此处同时提及这两个数字。

• 归一化：生成的 ESM-2 嵌入使用基于训练集的最小-最大归一化 (min-max normalization) 方法进行归一化，将特征缩放到 [0, 1] 范围。测试集使用训练集导出的最小值和最大值进行归一化，以确保特征缩放的一致性。

• 可视化：使用均匀流形逼近与投影 (Uniform Manifold Approximation and Projection, UMAP) 和 t-分布随机邻域嵌入 (t-Distributed Stochastic Neighbor Embedding, t-SNE) 对高维嵌入进行可视化，以评估 ESM-2 在捕获相关特征方面的有效性。

  以下是 ESM 模型用于生成肽嵌入的架构图：

  该图像是示意图，展示了iBitter-Stack模型的架构。图中标注了输入序列、标记化过程、经过修改的六层BERT模型，以及最终的序列嵌入和最后隐藏状态输出。输入序列由N个残基组成，通过标记化后输入BERT模型，最终生成尺寸为$n \times 320$的输出结果。

图 1: ESM 模型架构用于生成肽嵌入。

4.2.2. Dipeptide Composition (DPC, 二肽组成)

• DPC 是一种广泛使用的特征编码技术，用于捕获肽序列中相邻氨基酸残基之间的局部关系。
• 表示方式：它被表示为一个 400 维的向量，其中每个维度对应于 20 $\times$ 20 种可能的特定二肽组合的归一化频率。
• 计算方法： $$D ( r , s ) = { \frac { N _ { r s } } { N - 1 } } , \quad r , s \in \{ A , C , D , \ldots , Y \}$$ 其中，$N_{rs}$ 表示由氨基酸类型 $r$ 和 $s$ 形成的二肽的出现次数，$N$ 是肽的总长度。分母 N-1 反映了长度为 $N$ 的序列中相邻氨基酸对（二肽）的总数。
• 特点：归一化处理确保了特征向量捕捉的是每个二肽的比例表示，使其对序列长度的变化具有鲁棒性。DPC 对于捕获局部序列模式特别有效，这对于识别苦味等功能特性至关重要。

4.2.3. AAE (Amino Acid Entropy, 氨基酸熵)

• AAE 是一种基于位置的特征，用于量化每个氨基酸在肽序列中非随机分布的程度。它捕捉了氨基酸在肽链中出现的可变性和无序性。
• 计算方法：对于长度为 $p$ 的肽序列 $P$，氨基酸 $A$ 的熵值由以下公式给出： $$A A E _ { A } = \sum _ { i = 1 } ^ { n } \left( { \frac { s _ { i } - s _ { i - 1 } } { p } } \right) \log _ { 2 } \left( { \frac { s _ { i } - s _ { i - 1 } } { p } } \right)$$ 其中，$p$ 代表肽序列 $P$ 的长度，$n$ 表示氨基酸 $A$ 在肽中出现的次数，$s_1, s_2, \ldots, s_n$ 是氨基酸 $A$ 在肽中的位置。位置索引定义为 $s_0 = 0$ 和 $s_{n+1} = n+1$，标记肽序列的边界。
• 应用范围：AAE 不仅计算全肽序列，还计算其 N-末端 (NT5，前五个残基) 和 C-末端 (CT5，后五个残基) 子序列的值。
• 特征向量：最终的 AAE 值组合成一个 60 维的特征向量（20 种氨基酸 $\times$ 3 个区域：全序列、NT5、CT5）。这种特征能够捕捉肽氨基酸分布的关键结构信息。

4.2.4. Binary Profile-based Encoding for N and C-terminal residues (BPNC, N/C-末端残基二值剖面编码)

• 在 BPNC 中，肽序列中的每个氨基酸都使用一个 20 维的二值向量表示。每个位置对应 20 种标准氨基酸中的一种。特定氨基酸的存在用 1 表示，其他位置为 0。

• 应用范围：BPNC 编码专门应用于每个肽序列的 N-末端前五个残基 (NT5) 和 C-末端后五个残基 (CT5)。

• 特征向量：NT5 和 CT5 序列分别编码，各贡献 100 维（5 个氨基酸 $\times$ 20 维/氨基酸），最终得到一个 200 维的向量。

• 特点：这种编码强调了末端残基在肽功能、生物活性和与受体相互作用中的关键作用。

  以下是 BPNC 表示中氨基酸二值剖面的示例：

以下是原文 Table 2 的结果：

4.2.5. Physicochemical Property-Based Features (物理化学性质特征)

物理化学性质特征对于捕捉肽的化学特性和结构属性至关重要，这些特性对其生物活性起着重要作用。本研究采用了三种关键的物理化学特征编码：AAI、GTPC 和 CTD。

4.2.5.1. AAI (Amino Acid Index, 氨基酸指数)

• 描述：AAI 包含来自 AAindex 数据库的 12 种性质，代表各种物理化学特性，如疏水性、空间参数和溶解度。
• 计算方法：
  • 对于疏水性、亲水性、空间参数、溶解度等性质，使用全序列、NT5 和 CT5 中所有氨基酸的平均 AAindex 值。
  • 对于氢键、净电荷和分子量等性质，使用序列中所有氨基酸的 AAindex 值之和。
• 特征向量：AAI 被编码为一个 36 维的向量，每个维度对应一个特定的 AAindex 性质。

4.2.5.2. GTPC (Grouped Tripeptide Composition, 分组三肽组成)

• 氨基酸分组：GTPC 根据氨基酸的物理化学性质将其分为五组：脂肪族、芳香族、正电荷、负电荷和非电荷。
• 计算方法：通过确定全序列、NT5 和 CT5 中这些氨基酸组组合形成的三肽的频率来计算。
• 特征向量：生成的向量具有 125 维，每个维度对应于三肽中氨基酸组的特定组合。

4.2.5.3. CTD (Composition-Transition-Distribution, 组成-转换-分布)

• 描述：CTD 特征捕捉了氨基酸根据特定物理化学性质的分布模式。
• 特征向量：它由一个 147 维的向量组成，其中包括：
  • 21 维用于组成 (Composition, C)，描述不同性质氨基酸的比例。
  • 21 维用于转换 (Transition, T)，描述不同性质氨基酸之间转换的频率。
  • 105 维用于分布 (Distribution, D)，描述具有特定性质的氨基酸沿肽链的分布。

4.3. 基础学习器 (Base Learners) 和元学习器 (Meta Learners)

本研究构建了一个强大的预测模型，通过组合多种嵌入特征和分类器，形成一个两层堆叠 (stacking) 框架。

4.3.1. 基础学习器构建与训练

• 组合：共使用了七种不同的嵌入特征（ESM, BPNC, DPC, AAE, AAI, GTPC, CTD）和八种不同的机器学习分类器（SVM, Decision Tree (DT), Naive Bayes (NB), K-Nearest Neighbors (KNN), Logistic Regression (LR), Random Forest (RF), Adaptive Boosting (AdaBoost), Multilayer Perceptron (MLP)）。
• 总数：每种嵌入与每种分类器的组合形成一个独立的基础学习器，总计 7 $\times$ 8 = 56 个基础学习器。
• 参数优化：所有 56 个基础学习器都在 10 折交叉验证 (10-fold cross-validation) 设置下进行训练，以优化其超参数，确保使用最佳配置。

4.3.2. 基础学习器筛选

• 筛选标准：在训练完成后，采用严格的筛选标准来识别表现最佳的模型：MCC 大于 0.8 且准确率 (Accuracy) 高于 90%。
• 入选模型：经过筛选，最终有 8 个模型被选入元学习阶段。这些模型涵盖了不同的特征表示技术和分类器类型，例如 SVM, RF, KNN 等。

4.3.3. 元数据集构建

• 概率输出：对于训练集中的每个肽样本，这 8 个选定的基础学习器都会输出一个介于 0 和 1 之间的类概率 (class probability)，表示该样本是苦味肽或非苦味肽的可能性。这些是“软输出 (soft output)”，而非硬标签。
• 元数据集：这些概率输出被连接起来，为每个肽样本形成一个 8 维的概率向量。所有这些概率向量共同构成了元数据集 (meta-dataset)，作为元学习器的输入。这种方式能够捕捉集成模型层面上的高置信度分类器的共识。

4.3.4. 元学习器训练

• 元学习器选择：在堆叠框架的第二层，元学习器接收由选定基础学习器生成的 8 维概率向量。本研究选择了逻辑回归 (Logistic Regression, LR) 模型作为元学习器，因为它在集成堆叠场景中表现出卓越的性能，并在鲁棒性和计算效率之间取得了平衡。

• 超参数优化：LR 模型的超参数通过网格搜索 (grid search) 进行优化，最终确定最佳配置为 $penalty = l2$ 和 max_iter = 1500。

  通过这种两层架构，系统能够捕获肽序列中复杂且异构的模式。最终的分类结果是基于最可靠模型集体判断而得出的，从而使该框架在区分苦味肽和非苦味肽方面非常有效。

以下是所提出的苦味肽预测流水线概述图：

该图像是一个示意图，展示了用于苦味肽识别的多重表示集成学习模型的构建流程。图中包括数据集的准备、特征表示技术和基础学习者选择，并强调了元学习器的优化过程。

图 2: 所提出的苦味肽预测流水线概述图。该图展示了从数据集准备、多种特征表示、基础学习器训练与筛选，到元学习器构建的整个流程。

4.4. 评估指标 (Evaluation Measures)

模型的性能使用几个标准指标进行评估，包括准确率 (Accuracy, ACC)、敏感性 (Sensitivity, Sn)、特异性 (Specificity, Sp)、马修斯相关系数 (Matthews Correlation Coefficient, MCC) 和受试者工作特征曲线下面积 (Area Under the Receiver Operating Characteristic, AUROC)。这些指标在肽分类任务中被广泛使用。

4.4.1. 准确率 (Accuracy, ACC)

• 概念定义：准确率衡量模型在所有预测中正确预测的比例。它提供了模型整体正确性的直接度量。
• 数学公式： $$\mathrm { A C C } = { \frac { \mathrm { TP } + \mathrm { TN } } { \mathrm { TP } + \mathrm { TN } + \mathrm { FP } + \mathrm { FN } } }$$
• 符号解释：
  • TP (True Positives)：真阳性，指模型将苦味肽正确预测为苦味肽的数量。
  • TN (True Negatives)：真阴性，指模型将非苦味肽正确预测为非苦味肽的数量。
  • FP (False Positives)：假阳性，指模型将非苦味肽错误预测为苦味肽的数量。
  • FN (False Negatives)：假阴性，指模型将苦味肽错误预测为非苦味肽的数量。

4.4.2. 敏感性 (Sensitivity, Sn)

• 概念定义：敏感性，也称为召回率 (Recall) 或真阳性率 (True Positive Rate)，衡量模型正确识别所有实际苦味肽（阳性样本）的能力。
• 数学公式： $$\mathrm { Sn } = { \frac { \mathrm { TP } } { \mathrm { TP } + \mathrm { FN } } }$$
• 符号解释：
  • TP (True Positives)：真阳性。
  • FN (False Negatives)：假阴性。

4.4.3. 特异性 (Specificity, Sp)

• 概念定义：特异性，也称为真阴性率 (True Negative Rate)，衡量模型正确识别所有实际非苦味肽（阴性样本）的能力。
• 数学公式： $$\mathrm { Sp } = { \frac { \mathrm { TN } } { \mathrm { TN } + \mathrm { FP } } }$$
• 符号解释：
  • TN (True Negatives)：真阴性。
  • FP (False Positives)：假阳性。

4.4.4. 马修斯相关系数 (Matthews Correlation Coefficient, MCC)

• 概念定义：MCC 是一种衡量二分类模型性能的综合指标，它考虑了所有四个混淆矩阵 (confusion matrix) 成分（TP, TN, FP, FN）。MCC 的值介于 -1 和 +1 之间，其中 +1 表示完美预测，0 表示随机预测，-1 表示完全不一致的预测。即使在不平衡数据集上，MCC 也能提供可靠的评估，并且在平衡数据集上，它也比准确率提供更细致的评估。
• 数学公式： $$\mathrm { MCC } = { \frac { \mathrm { TP } \times \mathrm { TN } - \mathrm { FP } \times \mathrm { FN } } { \sqrt { ( \mathrm { TP } + \mathrm { FP } ) ( \mathrm { TP } + \mathrm { FN } ) ( \mathrm { TN } + \mathrm { FP } ) ( \mathrm { TN } + \mathrm { FN } ) } } }$$
• 符号解释：
  • TP (True Positives)：真阳性。
  • TN (True Negatives)：真阴性。
  • FP (False Positives)：假阳性。
  • FN (False Negatives)：假阴性。

4.4.5. 受试者工作特征曲线下面积 (Area Under the Receiver Operating Characteristic, AUROC)

• 概念定义：AUROC 衡量分类器在所有可能分类阈值下的整体性能。它是在真阳性率 (True Positive Rate, TPR，即敏感性 Sn) 和假阳性率 (False Positive Rate, FPR，即 1 - 特异性 Sp) 之间绘制的 ROC 曲线下的面积。AUROC 是一种阈值无关的指标，值越大表示模型的判别能力越强。

5. 实验设置

本节详细描述了 iBitter-Stack 模型在进行苦味肽识别实验时的具体设置，包括所使用的数据集、评估指标以及用于比较的基线模型。

5.1. 数据集

实验采用了 BTP640 数据集，这是一个在肽分类研究中被广泛接受的基准数据集。

• 来源与构成：该数据集包含 320 个经过实验验证的苦味肽和 320 个非苦味肽，确保了类别分布的平衡性。苦味肽序列从多个同行评审研究中收集，而非苦味肽则从 BIOPEP 数据库中随机选取，遵循了既定的实践。
• 预处理：在构建数据集时，移除了包含模糊氨基酸残基（如 X, B, U, Z）的肽，并去除了重复序列，以保证数据质量并避免过拟合。
• 划分：为了进行无偏的训练和评估，BTP640 数据集以 8:2 的比例随机划分为：
  • 训练集 (BTP-CV)：包含 256 个苦味肽和 256 个非苦味肽。
  • 独立测试集 (BTP-TS)：包含 64 个苦味肽和 64 个非苦味肽。这种分层抽样确保了类别在训练集和测试集中保持平衡。
• 可访问性：该数据集及其相关源代码公开可用，分别在 https://github.com/Shoombuatong/Dataset-Code/tree/master/iBitter 和 http://pmlab.pythonanywhere.com/BERT4Bitter。
• 序列相似度过滤 (Appendix A)：为进一步提高评估的公平性和模型的鲁棒性，研究者还进行了一项额外实验，移除了训练集和测试集之间序列同一性达到 80% 或更高的肽。
  • 过滤后的训练集包含 428 个肽（219 苦味，209 非苦味）。
  • 过滤后的测试集包含 86 个肽（44 苦味，42 非苦味）。
  • 尽管数据集规模有所减小且类别略有不平衡，但该实验验证了模型在更严格相似度约束下的稳定性能。

5.2. 评估指标

模型的性能通过以下标准指标进行全面评估，这些指标在方法论部分已详细定义：

• 准确率 (Accuracy, ACC)：衡量模型整体正确分类的比例。
• 敏感性 (Sensitivity, Sn)：衡量模型正确识别苦味肽（真阳性率）的能力。
• 特异性 (Specificity, Sp)：衡量模型正确识别非苦味肽（真阴性率）的能力。
• 马修斯相关系数 (Matthews Correlation Coefficient, MCC)：一个在平衡和不平衡数据集上都提供可靠评估的综合性指标。
• 受试者工作特征曲线下面积 (Area Under the Receiver Operating Characteristic, AUROC)：一个阈值无关的指标，衡量模型区分两类样本的整体能力。

5.3. 对比基线

为了验证 iBitter-Stack 的优越性，研究将其与多个现有最先进 (state-of-the-art) 的苦味肽预测模型进行了比较。这些基线模型代表了该领域不同的技术路线和发展阶段：

• iBitter-SCM [23]：基于计分卡方法 (Scoring Card Method, SCM)，利用二肽倾向性分数。

• BERT4Bitter [24]：基于 BERT 嵌入和双向长短期记忆网络 (Bi-LSTM)，利用 NLP 技术。

• iBitter-Fuse [31]：一个 SVM 分类器，融合了多种组成和物理化学性质特征。

• iBitter-DRLF [32]：基于 LightGBM，利用深度表示学习特征。

• UniDL4BioPep [33]：一个浅层 CNN 模型，利用 ESM-2 嵌入。

• Bitter-RF [34]：基于随机森林 (Random Forest)，利用物理化学序列特征。

• iBitter-GRE [34]：一个堆叠集成模型，结合 ESM-2 嵌入和生化描述符。

  这些基线模型涵盖了从传统序列分析、深度学习语言模型到多特征融合集成方法的不同范式，为 iBitter-Stack 提供了全面的比较背景。

6. 实验结果与分析

本节将深入分析 iBitter-Stack 的实验结果，包括基础学习器的性能评估、最优基础学习器的选择、堆叠元学习器的性能以及与现有最先进模型的比较。

6.1. 性能评估与分析

6.1.1. 基础学习器的性能评估

为了评估每个个体模型在不同特征表示上的有效性，研究对 56 个基础学习器进行了全面的比较，使用 MCC 和 Accuracy 作为关键性能指标。

以下是原文 Figure 3 的结果，展示了不同特征类型和分类器组合的基础学习器的性能热图：

该图像是热图，展示了不同模型的MCC和准确性指标。图中可见多种模型的性能差异，其中ESM_RF在MCC上达到最高值0.854，准确性为0.920。

图 3: 热图展示了不同基础学习器在 MCC 和 Accuracy 上的性能。横轴为分类器类型，纵轴为特征类型。

从 Figure 3 中可以看出：

• 基于 ESM 嵌入与集成分类器（如 RF、SVM 和 MLP）结合的模型，其性能始终优于其他组合。

• 表现最好的模型 ESM_RF 取得了 0.85 的 MCC 和 92% 的 Accuracy。

• 相比之下，使用 AAI 和 GTPC 特征构建的模型在 MCC 和 Accuracy 上普遍表现较差。

  以下是原文 Figure 4 的结果，展示了所有基础学习器的 MCC 和 Accuracy 值分布的箱线图：

  该图像是一个箱线图，展示了各种模型在MCC和准确率上的分布情况。图中MCC的值集中较低，而准确率的值则表现得相对较高，显示了不同模型在这两项指标上的性能差异。

图 4: 箱线图展示了所有基础学习器 MCC 和 Accuracy 值的分布。

从 Figure 4 的箱线图中可以看出：

• 模型的中位 Accuracy 较高，且四分位距较窄，表明大多数模型都能达到相对较高的准确率。
• MCC 值的分布范围更广，少数模型表现显著不佳。这种 MCC 的变异性，即使在平衡数据集上，也突显了其对假阳性 (False Positives, FP) 和假阴性 (False Negatives, FN) 的敏感性，而这些是 Accuracy 未能完全捕捉到的。高 Accuracy 但低 MCC 的模型可能在整体预测正确率高，但在区分两类样本的可靠性上存在缺陷。

6.1.2. 最优基础学习器的识别与元数据集构建

在对所有基础学习器进行性能评估后，研究根据 $MCC > 0.8$ 且 $Accuracy > 90$ 的标准筛选出表现最佳的模型，用于构建最终的堆叠集成模型。

• 选定的基础学习器：最终有 8 个模型满足了性能标准并被保留用于元建模。这些模型包括：
  • ESM 系列：ESM_RF、ESM_SVM、ESM_MLP、ESM_LR、ESM_ADA
  • CTD 系列：CTD_MLP、CTD_SVM
  • AAI 系列：AAI_RF
• 特征多样性：尽管 ESM 衍生的模型在顶级表现中占据主导地位，但 CTD 和 AAI 基模型的入选表明，来自替代描述符的互补信息对整体预测性能有重要贡献。
• 定性分析：对选定基础学习器之间的一致性模式进行的定性分析发现，ESM 基模型在自信分类的肽上通常表现出高度一致性。然而，CTD 和 AAI 基学习器提供了有价值的互补信号，尤其是在 ESM 集成模型可能存在部分不一致的模糊或临界案例中。这进一步强调了集成正交特征和模型类型（而非仅依赖 PLM 衍生嵌入）的价值。
• 元数据集构建：每个选定的模型都会输出一个表示给定肽是苦味肽可能性的概率分数。这些分数被连接成一个 8 维向量，代表每个样本的元数据集 (meta-dataset)。这个元表示捕获了高置信度分类器之间的集成共识。
• 元学习器：选择逻辑回归 (Logistic Regression, LR) 模型作为最终的元学习器 (meta-learner)，因为它在准确率和 MCC 方面始终表现优异。

6.1.3. 堆叠元学习器的性能评估

为评估集成模型的鲁棒性和泛化能力，研究对其进行了 10 折交叉验证和独立测试集评估。

6.1.3.1. 10 折交叉验证结果

以下是原文 Table 3 的结果，比较了元学习器与表现最佳的基础模型在 10 折交叉验证中的性能：

从 Table 3 可以看出：

• 尽管 ESM_SVM 和 ESM_MLP 等基础学习器表现良好，MCC 值接近 0.71，但堆叠元学习器 iBitter-Stack 的性能显著超越它们。
• iBitter-Stack 取得了近乎完美的分类指标：MCC 为 0.996，Accuracy 为 99.8%，AUROC 为 0.998。这强调了堆叠方法在整合多样化决策边界和泛化个体模型学习模式方面的有效性。

6.1.3.2. 独立测试集结果

以下是原文 Table 4 的结果，比较了元学习器与基础模型在独立测试集中的性能：

从 Table 4 可以看出：

• 在独立测试集上，元学习器 iBitter-Stack 保持了高水平的预测可靠性，实现了 96.1% 的 Accuracy、0.922 的 MCC 和 0.98 的 AUROC。
• 一些基础学习器，特别是 ESM_RF 和 ESM_SVM，在独立测试集上的性能相比 10 折交叉验证有所提高 (MCC 超过 0.84，AUROC 超过 0.92)。这可能表明模型在特定独立测试集上表现良好，但在更广泛的数据划分中可能存在泛化能力的局限。
• ESM_Stack（仅使用 ESM 基础模型构建的集成）的 MCC 为 0.86，明显低于 iBitter-Stack 的 0.92，这进一步强调了特征多样性对提升模型性能的重要性。

6.1.3.3. 特征空间可视化

研究使用 t-SNE 分析来可视化不同特征表示的判别能力。

以下是原文 Figure 5 的结果，展示了苦味肽和非苦味肽在不同特征类型下的二维 t-SNE 投影：

该图像是一个示意图，展示了不同模型对苦味肽的分类结果，包含八个子图，分别为ESM、AAE、AAI、BPNC、CTD、DPC、GTPC和Meta-Dataset。每个子图中，通过t-SNE降维，蓝色点表示非苦味肽，橙色点表示苦味肽。

图 5: 展示了不同特征类型（ESM、AAE、AAI、BPNC、CTD、DPC、GTPC）和最终元数据集的 t-SNE 投影。蓝色点表示非苦味肽，橙色点表示苦味肽。

从 Figure 5 可以看出：

• 单个特征（如 AAE, DPC, GTPC）在苦味肽和非苦味肽之间存在高度重叠，表明它们的分离能力有限。
• 相比之下，由选定基础学习器的概率输出构建的最终 8 维元数据集，实现了苦味肽和非苦味肽之间最清晰的聚类。明确的边界和紧密的聚类表明堆叠表示捕获了一个更抽象、更具判别力的决策空间，这解释了元学习器在评估设置中表现出的优越性能。

6.1.4. 与现有最先进模型的比较

6.1.4.1. 10 折交叉验证对比

以下是原文 Table 5 的结果，比较了 iBitter-Stack 与现有最先进模型在 10 折交叉验证中的性能：

从 Table 5 可以看出：

• iBitter-SCM 和 BERT4Bitter 等传统模型表现中等，Accuracy 低于 88%，MCC 低于 0.75。
• iBitter-Fuse 和 iBitter-DRLF 等中期模型表现更平衡，MCC 分别为 0.84 和 0.78。
• iBitter-GRE 达到了 86.3% 的 Accuracy 和 0.73 的 MCC，但仍落后于 iBitter-Stack。
• iBitter-Stack 在 10 折交叉验证中取得了近乎完美的结果：Accuracy 99.8%，MCC 0.99，AUROC 0.99。这表明了其集成框架的有效性以及在不同交叉验证折叠中优异的泛化能力。

6.1.4.2. 独立测试集对比

以下是原文 Table 6 的结果，比较了 iBitter-Stack 与现有最先进模型在独立测试集中的性能：

从 Table 6 可以看出：

• 在独立测试集上，iBitter-Stack 表现出卓越的性能。其 Accuracy 为 96.1%，MCC 为 0.92，与 iBitter-GRE 持平，同时 AUROC 达到 0.98，与 UniDL4BioPep 和 Bitter-RF 相当。

• 平衡性优势：尽管 MCC 与 iBitter-GRE 相似，但 iBitter-Stack 在敏感性 (95.4%) 和特异性 (97.2%) 之间实现了更平衡的权衡，而 iBitter-GRE 的 Sn 为 98.4%，Sp 为 93.8%。这种平衡表明 iBitter-Stack 在控制假阳性 (False Positives) 和假阴性 (False Negatives) 方面表现更优，这在实际应用中非常重要。

• 架构优势：iBitter-Stack 的优势不仅在于利用了预训练语言模型（如 ESM），更在于其结构化的集成架构。通过构建多样化的基础学习器池、筛选最佳表现者并将它们的预测合成为 8 维元表示，模型有效捕获了互补视角下的共识。最终的逻辑回归元学习器则利用这些融合信号提供可靠且校准良好的预测。

  以下是原文 Figure 6 的结果，展示了 iBitter-Stack 模型在独立测试集上的 ROC 曲线：

  该图像是一个接收操作特征（ROC）曲线图，展示了 proposed model 在独立测试集上的表现。曲线的下面区域控制（AUROC）为 0.981，表明模型的分类能力较强。

图 6: 所示模型在独立测试集上的受试者工作特征曲线 (ROC)，$AUROC = 0.981$。

从 Figure 6 的 ROC 曲线可以看出：

• iBitter-Stack 在独立测试集上获得了 0.981 的 AUROC，这表明其在所有分类阈值下都具有出色的判别能力。
• 高 AUROC 证实了模型在保持高真阳性率的同时，能有效最小化假阳性，这在肽筛选应用中至关重要。

6.1.5. 序列相似度过滤实验结果 (Appendix A)

为了进一步验证模型的鲁棒性，研究在经过 80% 序列同一性过滤后的数据集上重新训练了元学习器。

以下是原文 Table A.7 的结果，比较了 iBitter-Stack 在过滤前后独立测试集上的性能：

从 Table A.7 可以看出：

• 经过 80% 序列同一性过滤后，iBitter-Stack 模型仍保持了强大的性能，Accuracy 为 95.3%，MCC 为 0.91，AUROC 为 0.98。

• 这些结果仅略低于未过滤情况下的性能（96.1% Accuracy 和 0.92 MCC），证实了该框架的预测能力不依赖于训练集和测试集之间的冗余。

• 过滤后的数据集上观察到的更平衡的敏感性和特异性，表明模型即使在数据集规模减小且略有不平衡的情况下，仍能保持其泛化能力。

  总而言之，iBitter-Stack 通过结合多样的特征表示和优化的集成学习策略，在苦味肽分类任务中达到了最先进的性能，并展现出强大的鲁棒性和泛化能力。

7. 总结与思考

7.1. 结论总结

本研究提出了一种名为 iBitter-Stack 的堆叠集成学习 (stacking-based ensemble learning) 框架，用于准确识别苦味肽 (bitter peptides)。该模型通过整合七种异构特征表示（包括 ESM 嵌入和多种手工设计的物理化学描述符）与八种多样的分类器，共构建了 56 个基础学习器 (base learners)。随后，采用严格的性能过滤策略，仅保留最有效的基础学习器，并将其预测结果整合成一个 8 维的元数据集 (meta-dataset)，作为逻辑回归 (Logistic Regression) 元学习器 (meta-learner) 的输入，从而得到一个鲁棒的最终模型。

通过 10 折交叉验证 (10-fold cross-validation) 和独立测试集分析进行的广泛评估表明，iBitter-Stack 始终优于单个模型和现有最先进 (state-of-the-art) 的预测器。具体而言，在独立测试集上，模型达到了 96.1% 的准确率 (Accuracy)、0.922 的马修斯相关系数 (Matthews Correlation Coefficient, MCC) 和 0.981 的受试者工作特征曲线下面积 (AUROC)，展现出强大的判别能力和泛化性。

研究结果表明，结合肽序列的多重视角——从高层面的进化嵌入到细粒度的物理化学描述符——能够为肽行为提供更丰富、更具泛化性的表示。元学习器有效地整合了这些互补信号，从而实现了更可靠和平衡的预测。此外，与 Bitter-RF 和 iBitter-DRLF 等强基线相比，iBitter-Stack 的性能提升证实了特征多样性和元级学习在该领域中的价值。额外的序列相似度过滤实验进一步验证了模型的鲁棒性，即使在更严格的评估条件下也能保持高性能。

7.2. 局限性与未来工作

作者在论文中指出了以下局限性并提出了未来工作方向：

• 数据集稀缺性：实验验证的苦味肽和非苦味肽数量有限，是数据驱动模型面临的关键挑战。这种稀缺性促使本研究采用轻量级预测器集成来缓解小数据集上的过拟合 (overfitting) 问题。

• 序列相似度阈值：虽然已进行 80% 序列同一性过滤，但作者建议未来研究应考虑更严格的阈值（例如 70%）来解决短肽中可能存在的残余重叠，同时需要平衡数据质量和数量之间的权衡。

• 模型应用范围：目前模型主要关注二分类任务（苦味/非苦味）。

  基于这些局限性，作者提出了以下未来工作：

• 推广至相关任务：可以将当前的模块化框架扩展到其他相关任务，例如苦味强度预测、肽溶解度分类或功能基序检测。

• 整合端到端深度学习：未来工作可能会结合端到端深度学习 (end-to-end deep learning) 技术，以进一步实现自动化和提高可扩展性。

• 促进肽注释：呼吁更广泛的肽注释工作，以支持该领域的未来发展，解决数据集稀缺性问题。

7.3. 个人启发与批判

7.3.1. 个人启发

• 多源特征融合的强大潜力：iBitter-Stack 成功证明了将深度学习语言模型（如 ESM）捕获的上下文信息与传统手工设计的物理化学和组成特征相结合的巨大优势。这启发我们，在处理生物序列数据时，不应局限于单一类型的特征，而应积极探索多视图特征融合，以获得更全面的数据表示。这种策略在其他生物信息学分类任务中也具有广泛的应用前景。
• 集成学习的鲁棒性：堆叠集成学习框架通过系统地构建和筛选基础学习器，并利用元学习器进行预测融合，显著提高了模型的鲁棒性和泛化能力。尤其是在面对小规模或复杂异构数据集时，集成学习能够有效降低单个模型的偏差 (bias) 和方差 (variance)，从而提供更稳定的预测性能。
• 严格评估的重要性：论文中不仅进行了标准的 10 折交叉验证和独立测试集评估，还特别增加了序列相似度过滤实验，以验证模型在更严格条件下的性能。这种严谨的评估方法对于确保模型结果的可靠性和泛化能力至关重要，也为其他研究提供了良好的范例。
• 研究成果的实际转化：提供一个用户友好的网络服务器，使得研究成果能够被更广泛的研究者和实践者实时使用，这极大地促进了科研与应用的结合，也提升了研究工作的实际影响力。

7.3.2. 批判

• ESM 嵌入维度描述的潜在不一致：在 ESM 嵌入部分，原文描述 esm2_t6_8M_UR50D 变体具有“320 output embedding dimensions”，但在随后又提到“each peptide sequence was input into the pretrained ESM-2 model to produce a 1320-dimensional vector”。同时，图 1 中清晰标注的 sequence embedding (320-dim) 与 320 维描述一致。这种不一致性可能导致读者混淆，并对特征的实际处理过程产生疑问。虽然为了忠实原文我已在解析中提及，但这是原论文中可以改进的细节，应确保描述的精确统一。
• MCC 性能与 iBitter-GRE 的持平分析：尽管 iBitter-Stack 在 10 折交叉验证中表现出显著优势，但在独立测试集上，其 MCC 达到 0.92，与 iBitter-GRE 持平。虽然作者通过更平衡的敏感性和特异性来强调 iBitter-Stack 的优势，但未能显著超越 iBitter-GRE 可能会让部分读者认为提升有限。更深入地探讨为何在独立测试集上无法实现进一步突破，例如是否因为独立测试集规模较小、iBitter-GRE 对该特定测试集有某种适配性，或者模型性能已接近该任务的理论上限，将有助于更全面地理解结果。
• 基础学习器选择的解释性：论文通过 $MCC > 0.8$ 和 $Accuracy > 90$ 的硬性阈值筛选基础学习器。虽然这是有效的，但对最终选择的 8 个基础学习器的具体贡献和它们之间互补性机制的更详细定性或定量分析（例如，通过特征重要性或 Shapley 值等方法），可以进一步增强模型的可解释性，让读者更清楚地理解集成如何工作。
• 对小数据集过拟合的缓解策略：作者提到通过轻量级预测器集成来缓解小数据集的过拟合。这是一种合理的策略。然而，随着深度学习技术的发展，即使在小数据集上，通过迁移学习 (transfer learning)、数据增强 (data augmentation) 或正则化 (regularization) 等技术，深度模型也能取得良好效果。未来的工作可以更详细地比较在小数据集场景下，基于 PLM 的轻量级集成与更先进的深度学习正则化技术之间的权衡，或者探索如何将这两种方法更有效地结合。