1. 论文基本信息

1.1. 标题

The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support (打字疗法：大型语言模型聊天机器人在心理健康支持中的经验)

1.2. 作者

INHWA SONG (韩国科学技术院 KAIST), SACHIN R. PENDSE (佐治亚理工学院 Georgia Institute of Technology, USA), NEHA KUMAR (佐治亚理工学院 Georgia Institute of Technology, USA), MUNMUN DE CHOUDHURY (佐治亚理工学院 Georgia Institute of Technology, USA)。

1.3. 发表期刊/会议

该论文发布于 arXiv 预印本平台，发布时间为 2024-01-25T18:08:53.000Z。arXiv 是一个免费的开放获取预印本存储库，主要收录物理学、数学、计算机科学、量化生物学、量化金融、统计学、电气工程与系统科学以及经济学领域的论文。在 arXiv 上发布通常意味着论文尚未经过正式的同行评审 (peer review)，或已投稿至某会议/期刊但尚未正式发表。这表明该研究是相对较新的，处于向学术界分享初期成果的阶段。

1.4. 发表年份

2024年。

1.5. 摘要

全球范围内，人们正越来越多地利用 大型语言模型 (Large Language Model, LLM) 聊天机器人作为心理健康支持工具。社交媒体上的讨论表明，这些互动对一些人来说是“救命的”，但现有证据也指出，通用型 LLM 聊天机器人 (general-purpose LLM chatbots) 存在显著风险，如果设计不当，可能危及用户福祉。本研究旨在调查使用 LLM 聊天机器人 (LLM chatbots) 获得心理健康支持 (mental health support) 的个体其真实生活体验 (lived experiences)。研究通过对来自全球不同背景的 21 名个体进行访谈，分析了用户如何为聊天机器人 (chatbots) 创建独特的支持角色 (support roles)，弥补日常护理 (everyday care) 的空白，并在寻求聊天机器人 (chatbots) 支持时，如何应对相关的文化局限性 (cultural limitations)。研究将分析植根于心理治疗 (psychotherapy) 文献中关于有效支持 (effective support) 的理论，并引入了 治疗一致性 (therapeutic alignment) 的概念，即人工智能 (AI) 与心理健康背景下的治疗价值 (therapeutic values) 相结合。本研究为设计师 (designers) 提供了关于如何伦理 (ethical) 且有效 (effective) 地使用 LLM 聊天机器人 (LLM chatbots) 及其他人工智能心理健康支持工具的建议。

1.6. 原文链接

• arXiv 链接: https://arxiv.org/abs/2401.14362
• PDF 链接: https://arxiv.org/pdf/2401.14362v3.pdf 这两者均指向论文在 arXiv 预印本平台上的版本。

2. 整体概括

2.1. 研究背景与动机

2.1.1. 论文试图解决的核心问题

当前，越来越多的人将 大型语言模型 (LLM) 聊天机器人作为心理健康支持工具。然而，这种现象带来了两方面的挑战：一方面，社交媒体上不乏“挽救生命”的积极案例；另一方面，通用型 LLM 聊天机器人 (general-purpose LLM chatbots) 也被证实存在提供有害建议、加剧偏见或传播不准确信息等风险。因此，论文的核心问题是：人们在使用 LLM 聊天机器人 (LLM chatbots) 寻求心理健康支持时，其真实生活体验 (lived experiences) 是怎样的？他们如何理解和利用这些工具？

2.1.2. 为什么这个问题在当前领域是重要的？现有研究存在哪些具体的挑战或空白？

• 心理健康护理 (Mental Health Care) 的巨大缺口： 全球近一半人口在其一生中会经历心理健康障碍，但绝大多数人无法获得可及的护理。这导致了许多可预防的过早死亡。
• 新兴技术与未知的风险/益处： LLM 聊天机器人 (LLM chatbots) 作为一种新兴的、广泛使用的技术，正迅速被民众挪用 (appropriated) 为心理健康工具。然而，与传统的、受规则约束的聊天机器人 (rule-based chatbots) 不同，LLM 的输出更具灵活性和不可预测性，这意味着潜在的危害（例如，美国国家饮食失调协会的聊天机器人曾提供有害的减肥建议，甚至有聊天机器人鼓励用户自杀的案例）和未被充分理解的益处并存。
• 缺乏对用户真实经验的深入理解： 尽管存在关于 LLM 聊天机器人 (LLM chatbots) 风险和益处的宏观争论，但对于身处困境的个体而言，他们为什么会转向这些工具？他们如何导航 (navigate) 这些工具固有的偏见 (biases)？以及他们在互动中真正获得了哪些价值？这些深层次的用户体验 (user experiences) 仍未得到充分探究。

2.1.3. 这篇论文的切入点或创新思路是什么？

论文的创新切入点在于：

1. 以用户为中心 (User-Centered Approach)： 通过对全球多样化背景的 21 名个体进行 半结构化访谈 (semi-structured interviews)，深入挖掘用户使用 LLM 聊天机器人 (LLM chatbots) 的真实生活经验 (lived experiences)，而非仅仅关注技术能力或理论推断。
2. 跨学科融合 (Interdisciplinary Integration)： 将访谈结果与心理治疗 (psychotherapy) 领域关于有效支持 (effective support) 的理论进行结合，从而为理解 LLM 聊天机器人 (LLM chatbots) 在心理健康中的作用提供了坚实的理论基础。
3. 引入“治疗一致性 (Therapeutic Alignment)”概念： 提出一个新的核心概念——治疗一致性 (therapeutic alignment)，用以衡量人工智能 (AI) 心理健康工具在多大程度上与心理健康领域的治疗价值 (therapeutic values) 相吻合。这为 LLM 心理健康工具的设计和评估提供了一个新的视角和框架。

2.2. 核心贡献/主要发现

这篇论文的主要贡献和关键发现包括：

1. 揭示用户如何弥补护理缺口： 发现用户会为 LLM 聊天机器人 (LLM chatbots) 创建独特的支持角色 (support roles)，以弥补传统心理健康护理 (traditional mental healthcare) 中的空白，这包括在人类支持不可用或过于昂贵时作为替代。
2. 阐明文化与背景影响： 强调用户在寻求聊天机器人 (chatbots) 支持时，如何应对语言 (language) 和文化局限性 (cultural limitations)，以及这些因素如何塑造他们的使用体验。研究发现，虽然 LLM 聊天机器人 (chatbots) 有时能帮助用户讨论文化中被污名化 (stigmatized) 的话题，但其提供的建议也常常与用户的文化背景 (cultural background) 不符。
3. 提出“治疗一致性 (Therapeutic Alignment)”框架： 基于对用户经验的分析，引入 治疗一致性 (therapeutic alignment) 的概念，将其定义为 AI 与心理健康背景下的治疗价值 (therapeutic values) 相结合。研究通过对比用户体验与心理治疗文献中的核心价值（如 无条件积极关注 (unconditional positive regard)、谈话疗法 (talking cure)、移情 (transference) 等），分析了 LLM 聊天机器人 (LLM chatbots) 在哪些方面实现了 治疗一致性 (therapeutic alignment)，又在哪些方面表现出 治疗不一致性 (therapeutic misalignment)。
4. 提供设计建议： 基于研究发现，论文为 LLM 聊天机器人 (LLM chatbots) 和其他 AI 心理健康支持工具的设计者提供了具体建议，旨在促进这些工具的伦理 (ethical) 且有效 (effective) 使用，特别强调了 本地化 (localization) 在实现 治疗一致性 (therapeutic alignment) 中的重要性。

3. 预备知识与相关工作

本研究深入探讨了 大型语言模型 (LLM) 聊天机器人 (chatbots) 在心理健康支持 (mental health support) 中的应用，因此理解相关概念和技术演进至关重要。

3.1. 基础概念

• 大型语言模型 (Large Language Model, LLM)： LLM 是一种基于深度学习 (deep learning) 的人工智能模型，通过在海量的文本数据上进行训练，学习语言的模式、语法、语义和上下文关系。它们能够理解、生成和处理人类语言，执行多种自然语言处理 (Natural Language Processing, NLP) 任务，如文本生成、摘要、翻译、问答等。当前流行的 ChatGPT、Bard 等都是 LLM 的应用实例。其核心在于通过预测下一个 词元 (token) 来生成连贯的文本。
• 心理健康支持 (Mental Health Support)： 指为应对心理困境、改善心理健康状况而提供的一系列帮助和干预。这可以包括专业的心理治疗 (psychotherapy)、心理咨询 (counseling)、药物治疗 (medication)、自助策略 (self-help strategies)，以及非正式的支持，如来自朋友、家人或社区的帮助。本研究关注的是 LLM 聊天机器人 (LLM chatbots) 作为一种非正式或辅助性的支持工具。
• 聊天机器人 (Chatbot)： 聊天机器人 (chatbots) 是一种计算机程序，旨在模拟人类对话。它们可以是基于规则的 (rule-based)，即根据预设的规则和脚本进行响应；也可以是基于 人工智能 (AI) 的，如 LLM 聊天机器人 (LLM chatbots)，能够理解更复杂的语言并生成更灵活、更自然的回复。在心理健康领域，聊天机器人 (chatbots) 的历史可以追溯到 ELIZA，它们被用于提供信息、情绪支持或引导用户进行自助练习。
• 治疗一致性 (Therapeutic Alignment)： 本研究引入的核心概念，指 AI 心理健康支持工具与心理治疗 (psychotherapy) 领域的核心治疗价值 (therapeutic values) 相结合的程度。这些治疗价值包括 共情 (empathy)、真诚 (congruence)、无条件积极关注 (unconditional positive regard)、治疗联盟 (therapeutic alliance) 等，它们被认为是有效心理支持的基础。治疗一致性 (therapeutic alignment) 探讨的是 AI 如何在设计上体现这些价值，以促进用户的愈合和福祉。

3.2. 前人工作

本研究借鉴了心理治疗 (psychotherapy) 和 人机交互 (Human-Computer Interaction, HCI) 领域的广泛理论和实践，特别是围绕“什么使心理健康支持有效”的讨论。

• 心理治疗理论 (Psychotherapy Theories)：

  • 弗洛伊德 (Freud) 和布罗伊尔 (Breuer) 的 谈话疗法 (talking cure) 和 移情 (transference)： 谈话疗法 (talking cure) 认为通过表达压抑的思想和情感可以缓解痛苦。移情 (transference) 描述了患者将过去与他人关系中的动态投射到治疗师 (therapist) 身上，治疗师成为“重要他人”的替代者，帮助患者在安全环境中解决冲突。
  • 治疗联盟 (Therapeutic Alliance)： 指治疗师 (therapist) 和患者 (client) 之间建立的强大、信任的关系，建立在共同的价值观和目标上，对患者的成长和愈合至关重要。
  • 不同流派的心理治疗：
    • 认知行为疗法 (Cognitive-Behavioral Therapy, CBT)：关注分析行为模式并引导改变。
    • 人本主义疗法 (Humanistic Therapy)：强调 无条件积极关注 (unconditional positive regard)（不带偏见地接受和支持）和 真诚 (congruence)（治疗师的诚实和透明）。
    • 意义中心疗法 (Meaning-Centered Therapy) (如 存在主义疗法 (existential therapy) 和 叙事疗法 (narrative therapy))：引导患者重新构建 (re-author) 个人叙事，创造与自身价值观和目标更深层次契合的新意义。
  • 有效心理支持的共同因素 (Common Factors of Effective Support)： Luborsky et al. 的研究表明不同心理疗法 (psychotherapies) 的效果差异不显著，共同因素在于强大的 治疗联盟 (therapeutic alliance)。Frank and Frank 进一步提出了四个共同因素：强大的 治疗联盟 (therapeutic alliance)、疗愈环境 (healing setting)、概念框架 (conceptual framework) (对痛苦原因的共同理解) 和 仪式 (ritual) (缓解痛苦的结构化活动)。Wampold 的 语境模型 (contextual model) 也强调了 治疗联盟 (therapeutic alliance)、期望建立 (creation of expectations) 和 健康促进行动 (health-promoting actions)。

• 数字心理健康与 人机交互 (HCI) (Digital Mental Health and HCI)：

  • ELIZA 聊天机器人 (chatbot)： Joseph Weizenbaum 在 1966 年开发的规则型 聊天机器人 (chatbot)，是 会话代理 (conversational agents) 在护理中应用的早期探索，引发了关于计算机是否能进行“人道治疗”的争议。
  • 数字治疗联盟 (Digital Therapeutic Alliance, DTA)： 探讨用户如何与数字工具 (digital tools) 形成支持关系，以及这种关系与传统 治疗联盟 (therapeutic alliance) 的异同。
  • 人机交互 (HCI) 和 计算机支持的协同工作 (Computer-Supported Cooperative Work, CSCW) 领域的研究： 探讨了人们如何 拟人化 (anthropomorphize) 数字系统，甚至在某些情境下（如减少被评判的感觉）更喜欢与 AI 互动。也关注了 AI 在公共卫生 (public health) 项目、临床决策支持 (clinical decision support) 和个性化心理健康干预 (personalized mental health interventions) 中的应用，强调 AI 设计应具有适应性 (adaptable)、文化敏感性 (culturally sensitive) 和伦理基础 (ethically grounded)。

• AI 伦理与安全 (AI Ethics and Safety)：

  • AI 价值观对齐 (AI Value Alignment)： AI 系统如何与人类价值观和目标保持一致。讨论了在多元化世界中编码人类价值观的挑战。
  • 从人类反馈中进行强化学习 (Reinforcement Learning From Human Feedback, RLHF)： LLM 价值观对齐 (value alignment) 的常见方法，其中人类训练员对模型输出提供反馈。但这种方法可能忽略训练员之间的分歧，或导致价值观由少数组织政策决定。
  • LLM 的风险： 包括生成有害或文化不敏感的内容、强化偏见 (biases)、提供不准确建议、数据隐私 (data privacy) 问题。论文引用了导致自杀和犯罪的案例，凸显了风险的严重性。

3.3. 技术演进

心理健康领域中 会话代理 (conversational agents) 的技术演进大致可分为三个阶段：

1. 早期规则型聊天机器人 (Rule-Based Chatbots)：以 ELIZA 为代表，基于预设的脚本和关键词匹配进行对话。它们能提供简单的互动，但缺乏理解复杂语境和生成灵活回复的能力。
2. 特定用途的数字心理健康干预 (Purpose-Built Digital Mental Health Interventions)：在 LLM 出现之前，许多数字工具（包括 聊天机器人 (chatbots)）被设计用于特定心理健康目的，如 CBT 练习、情绪管理 (emotional regulation) 或症状筛查 (symptom screening)。这些系统通常也依赖于某种程度的预设逻辑或有限的 NLP 能力。
3. 基于 LLM 的通用型聊天机器人 (LLM-Based General-Purpose Chatbots)：LLM 技术的突破使得 聊天机器人 (chatbots) 能够生成高度流畅、上下文感知 (context-aware) 且看似“富有同情心”的回复。这极大地拓展了它们在心理健康支持中的潜在应用范围。然而，由于其通用性 (general-purpose nature) 和训练数据的庞杂，也带来了新的风险和挑战，如偏见 (biases)、不准确性 (inaccuracies) 和伦理困境 (ethical dilemmas)。

3.4. 差异化分析

本研究与现有工作的核心区别和创新点在于：

• 聚焦通用型 LLM 聊天机器人 (General-Purpose LLM Chatbots)： 多数早期研究关注的是专门为心理健康设计的 规则型聊天机器人 (rule-based chatbots) 或数字干预 (digital interventions)。本研究则着眼于用户如何将 ChatGPT 这类并非专为心理健康设计的通用 LLM 聊天机器人 (chatbots) 挪用 (appropriate) 为心理支持工具，这反映了当前技术的实际使用趋势。
• 强调用户真实体验与文化语境 (Lived Experiences and Cultural Contexts)： 不同于侧重技术性能或理论模型的评估，本研究通过对全球多样化用户的深度访谈，深入理解不同文化背景、身份和个体需求如何塑造 LLM 聊天机器人 (LLM chatbots) 的使用方式和体验。
• 提出“治疗一致性 (Therapeutic Alignment)”作为分析框架： 本研究不仅仅是描述用户体验，更重要的是将这些经验与心理治疗 (psychotherapy) 领域公认的有效支持 (effective support) 价值进行理论连接。引入 治疗一致性 (therapeutic alignment) 概念，为 AI 心理健康工具的设计和评估提供了一个以“治疗价值”为核心的、更具指导意义的框架，而非仅仅是技术或可用性 (usability) 导向的评估。
• 关注潜在的 伦理债务 (Ethical Debt)： 论文提出设计师 (designers) 应该预设所有通用技术都可能被用于心理健康，并提前考虑其带来的 伦理债务 (ethical debt)，这是一种前瞻性的 AI 伦理 (AI ethics) 视角。

4. 方法论

本研究旨在通过定性方法深入理解个体使用 大型语言模型 (LLM) 聊天机器人 (chatbots) 进行心理健康支持 (mental health support) 的真实生活体验。

4.1. 研究设计与招募

4.1.1. 研究设计

本研究采用了 半结构化访谈 (semi-structured interviews) 的方式，与 21 名参与者进行了深入对话。这种方法允许研究者在保持一定访谈结构的同时，根据参与者的具体回答进行灵活追问，从而获取丰富、细致的个体经验和观点。

4.1.2. 参与者招募

• 初步筛选： 研究首先通过在线调查 (online survey) 收集了潜在参与者的信息，包括地理位置、人口统计学信息、LLM 聊天机器人 (LLM chatbots) 的使用频率和类型、使用语言、使用 LLM 聊天机器人 (LLM chatbots) 的具体目的，以及他们对传统和在线心理健康支持 (online mental health support) 的经验。
• 抽样策略： 结合了 目的性抽样 (purposive sampling) 和 滚雪球抽样 (snowball sampling) 两种方法。
  • 目的性抽样 (Purposive Sampling)：研究者有目的地从在线调查中选择符合特定标准的参与者。这些标准包括：来自不同的国家和文化群体，具有独特的身份，以及使用 LLM 聊天机器人 (LLM chatbots) 进行心理健康支持的经验。
  • 滚雪球抽样 (Snowball Sampling)：通过现有参与者推荐其他符合条件的个体，以扩大样本量，特别是在难以接触的群体中。
• 招募渠道： 研究主动从社交媒体网站 (social media websites) 进行招募，并特别针对了与 LLM 聊天机器人 (LLM chatbots) 使用或心理健康支持 (mental health support) 密切相关的 Reddit 子版块，例如 /r/ChatGPT、/r/LocalLlama (针对 LLM 使用者) 和 /r/peersupport、/r/caraccidentsurvivor (针对心理健康支持社区)。
• 多样性考量： 鉴于 LLM 中可能存在的语言 (language) 和文化偏见 (cultural biases)，研究特意招募了在心理健康支持经验、性别认同 (gender identities)、国籍 (nationalities) 和地理位置 (geographic locations) 上具有多样性的参与者。研究确保至少招募到来自全球每个持续有人居住的大洲的参与者，并在此过程中与当地的在线论坛和支持团体建立了联系。
• 访谈执行： 访谈通过视频会议平台 (videoconferencing platforms) 进行，每次访谈持续约一小时。

4.1.3. 伦理与隐私

研究对参与者的舒适度和安全给予高度重视，采取了多项预防措施：

• 知情同意： 访谈前向参与者详细说明了研究目标和问题性质。
• 支持机制： 提供了全球心理健康资源 (global mental health resources)，并允许参与者跳过不愿回答的问题、随时休息或退出研究。
• 持续确认： 在提出敏感问题后，研究人员会持续与参与者确认他们是否愿意继续。
• 补偿： 参与者获得 25 美元（或等值的当地货币）的在线礼品卡作为补偿。
• 匿名化： 论文中所有提及的参与者姓名均为化名 (pseudonyms)，以保护隐私。

4.2. 分析

4.2.1. 数据分析方法

本研究对访谈数据采用 归纳法 (inductive approach) 进行分析，通过 解释性定性方法 (interpretive qualitative approach) 将参与者的表达分组为更大的主题。

4.2.2. 编码过程

• 开放编码 (Open Coding)： 由主要作者独立进行，旨在识别数据中的初步概念和想法。示例代码包括“使用聊天机器人前的心理健康护理 (mental healthcare before chatbot use)”、“首次使用 LLM 聊天机器人 (LLM chatbots) 进行支持 (first use of LLM chatbots for support)”或“隐私考量 (privacy considerations)”。
• 主题组织： 随后，所有作者通过 迭代主题分析 (iterative thematic analysis) 方法共同组织和整合这些代码，将其聚类 (clustered) 为更广泛的主题类别。这些主题包括：首次接触 LLM 聊天机器人 (LLM chatbots) 以获得心理健康支持 (mental health support)、LLM 聊天机器人 (LLM chatbots) 作为治疗代理 (therapeutic agents)、以及 治疗一致性 (therapeutic alignment) 和 治疗不一致性 (therapeutic misalignment)。
• 可靠性确保： 为确保主题分析的可靠性，研究团队维护了一个共享的编码文档，并定期举行迭代编码会议，讨论新兴主题。对于解释存在分歧的情况，团队会重新审视参与者的原始引述 (participant quotes)，并进行协作讨论以达成共识。

4.2.3. 与心理治疗理论的结合

在完成主题分析后，研究团队进一步将识别出的主题与第 2.1 节中概述的、来自不同心理治疗 (psychotherapy) 形式的共同治疗价值 (therapeutic values) 联系起来。

• 专业背景： 研究团队在心理健康领域拥有专业知识。
• 具体映射： 参与者关于 LLM 聊天机器人 (LLM chatbots) 提供无评判 (non-judgmental) 空间的表述被链接到 无条件积极关注 (unconditional positive regard)；关于聊天机器人 (chatbots) 在意义建构 (meaning-making) 中作用的叙述则与 重塑叙事 (re-authoring) 概念相关（详细映射见附录 A）。

4.2.4. 补充材料

访谈协议 (interview protocol) 和问卷 (questionnaire) 作为补充材料提供，以便进一步了解访谈所涵盖的主题。

本研究的方法论严格遵循定性研究的范式，通过深度访谈和严谨的主题分析，结合心理治疗理论，为理解 LLM 聊天机器人 (LLM chatbots) 在心理健康支持中的复杂作用提供了丰富的洞察。

5. 实验设置

本研究是一项定性研究，主要通过对人类参与者的访谈来收集数据，因此其“实验设置”不同于量化研究中模型训练、评估和数据集划分。这里主要关注的是研究对象（参与者）的招募细节和研究中的数据来源。

5.1. 数据集

本研究没有使用传统意义上的“数据集”来训练或评估机器学习模型。其数据来源于对 21 名使用 大型语言模型 (LLM) 聊天机器人 (chatbots) 进行心理健康支持的个体的 半结构化访谈 (semi-structured interviews)。

5.1.1. 访谈参与者特征

研究团队特意招募了具有多样化背景的参与者，以确保研究结果的广度和深度，特别是考虑到 LLM 工具中可能存在的语言 (language) 和文化偏见 (cultural biases)。以下是论文 Table 1 中展示的参与者人口统计学信息：

以下是原文 Table 1 的结果：

• 来源与规模： 21 名来自全球各地（如美国、韩国、中国、法国、尼日利亚、巴西、西班牙、瑞士、印度、澳大利亚等）的个体。
• 特点与领域： 参与者在年龄、性别、种族、地理位置以及心理健康诊断（包括 抑郁症 (Depression)、焦虑症 (Anxiety)、ADHD、自闭症 (Autism)、PTSD 等）方面具有多样性。部分诊断是临床医生确诊的 (Bold)，部分是参与者自我判断但未经正式诊断的 (Italicized)。这种多样性确保了研究能够捕捉到不同文化和个人背景下对 LLM 聊天机器人 (LLM chatbots) 心理健康支持的不同体验和看法。
• 选择这些数据集的原因： 选择这些多样化的参与者是为了深入理解在不同身份和语境下，LLM 聊天机器人 (LLM chatbots) 如何被用于心理健康支持，以及其固有的偏见 (biases) 如何影响用户体验。这种选择对于揭示 LLM 在全球范围内的适用性和局限性至关重要。

5.2. 评估指标

本研究是一项定性研究，主要通过对访谈数据的 主题分析 (thematic analysis) 来理解用户体验，而非依赖于量化的评估指标。因此，没有具体的数学公式形式的评估指标。

然而，研究通过分析参与者的经验如何与心理治疗 (psychotherapy) 文献中关于 有效支持 (effective support) 的理论对齐或不对齐，来评估 LLM 聊天机器人 (LLM chatbots) 的“有效性”和“一致性”。这些理论包括：

• 治疗联盟 (Therapeutic Alliance)：评估用户与聊天机器人 (chatbots) 之间是否建立了信任和协作关系。

• 无条件积极关注 (Unconditional Positive Regard)：评估聊天机器人 (chatbots) 是否能提供非评判性、接受性的支持。

• 真诚 (Congruence)：评估聊天机器人 (chatbots) 的回复是否被用户认为是真实、透明的。

• 谈话疗法 (Talking Cure) / 打字疗法 (Typing Cure)：评估表达自身痛苦的行为本身是否对用户具有疗愈作用。

• 重塑叙事 (Re-authoring)：评估聊天机器人 (chatbots) 是否帮助用户从生活经验中构建新意义。

• 疗愈环境 (Healing Setting)：评估聊天机器人 (chatbots) 提供的互动空间是否安全、支持性。

• 健康促进行动 (Enactment of Health-Promoting Actions)：评估聊天机器人 (chatbots) 是否能促使用户采取有益于心理健康的实际行动。

• 期望建立 (Creation of Expectations)：评估用户对聊天机器人 (chatbots) 的预期如何影响其体验。

• 概念框架 (Conceptual Framework)：评估用户与聊天机器人 (chatbots) 是否对痛苦原因有共同的理解。

• 仪式 (Ritual)：评估使用聊天机器人 (chatbots) 是否成为用户应对痛苦的结构化习惯。

  这些理论概念构成了研究分析框架的核心，用于判断 LLM 聊天机器人 (LLM chatbots) 在心理健康支持中实现的 治疗一致性 (therapeutic alignment) 程度。

5.3. 对比基线

本研究旨在探索和理解用户经验，而非对比不同技术方案的性能。因此，没有设定传统意义上的“对比基线模型”。

然而，研究中隐含的对比基线是：

• 传统心理健康护理 (Traditional Mental Health Care)：参与者经常将他们与 LLM 聊天机器人 (LLM chatbots) 的互动与他们过去接受或无法获得的传统心理健康服务（如心理医生、治疗师、朋友和家人）进行比较，以突出 LLM 聊天机器人 (LLM chatbots) 的独特优势和局限性。

• 早期规则型聊天机器人 (Earlier Rule-Based Chatbots)：虽然没有直接对比，但研究通过提及 ELIZA 等早期 聊天机器人 (chatbots)，间接对比了 LLM 聊天机器人 (LLM chatbots) 在灵活性和对话深度上的进步，以及它们带来的新风险。

  这种“基线”并非量化比较的对象，而是作为理解 LLM 聊天机器人 (LLM chatbots) 价值和局限性的背景参照。

6. 实验结果与分析

本研究通过对 21 名参与者的深度访谈，揭示了他们使用 大型语言模型 (LLM) 聊天机器人 (chatbots) 寻求心理健康支持的复杂体验。研究结果围绕用户的首次接触、LLM 聊天机器人 (LLM chatbots) 扮演的治疗角色、文化与语言的影响，以及 治疗一致性 (therapeutic alignment) 和 不一致性 (misalignment) 展开。

6.1. 核心结果分析

6.1.1. 首次接触与初始认知

• 心理健康感知与经验： 参与者对自身心理健康的理解各不相同，既有正式诊断，也有非正式的自我认知。他们的日常心理健康体验与当前生活语境紧密相连。例如，Taylor 的痛苦源于 10 年前的车祸创伤，Jiho 的抑郁和焦虑则与学业压力有关。许多人曾寻求专业帮助，但也有人因过往不愉快经历或高昂费用而刻意回避正规护理。有参与者（如 João）因治疗师泄露隐私而对人际信任产生裂痕，转而认为 LLM 聊天机器人 (chatbots) “永远会遵循你的指令，永不泄露你的秘密”，这成为他们转向 LLM 的一个重要原因。
• 首次接触 LLM 聊天机器人 (LLM chatbots) 的原因与认知： 参与者首次接触 LLM 聊天机器人 (LLM chatbots) 多因其技术背景、工作或学习领域，或受亲友推荐。他们最初的使用目的并非心理健康，而是编程辅助、日常任务或出于好奇。
  • 对 LLM 聊天机器人 (LLM chatbots) 的认知： 多数人将其理解为基于大量数据训练的语言生成系统，例如 Suraj 认为 ChatGPT 没有意识，但界面有助于整理思绪，类似日记。Walter 形容 ChatGPT 像一只“金毛猎犬”一样积极友好。Jiho 则认为 ChatGPT 的回复是“人类回复的正常分布”，中立且无偏见。然而，也有少数参与者（如 Qiao）认为聊天机器人 (chatbots) 具有感知能力，并从中获得了情感寄托和爱。
• 首次用于心理健康支持： 参与者转向 LLM 聊天机器人 (LLM chatbots) 寻求心理健康支持，往往是因为其对话性 (conversational) 和共情 (empathetic) 的界面，以及在传统服务不可用或成本高昂时的可及性。例如，Andre 在感到抑郁时，因心理医生 (psychologist) 不在且不想打扰朋友，便尝试了 ChatGPT。这种即时性 (instantaneous responses) 和持续可用性 (constant availability) 是 LLM 聊天机器人 (LLM chatbots) 的重要吸引力。
• 多样化的初始期望与反馈： 参与者最初并不期望深度治疗或诊断，仅寻求倾听、基本指导或表达思想的空间。LLM 聊天机器人 (LLM chatbots) 的回复有时出乎意料地有益，即使是“陈词滥调”的建议（如 Aditi 提到的“放松看电影”）也往往是他们需要的。但也有不尽人意的体验，如 Mina 认为回复过于冗长或像在解决问题，这促使她调整了提示词和期望。这种表达本身（打字疗法 (typing cure)）对一些人来说就是疗愈。
• 平台特性与个性化： 参与者根据平台特性进行选择，如 Aditi 会在 ChatGPT 对话过深时转向 Bard 寻求更轻松的空间。Mina 喜欢 Pi 提问“你感觉如何？”的亲密感。Ashwini 甚至通过与不同虚拟角色对话来获取多样视角。Alex 则因 LLM 聊天机器人 (LLM chatbots) 的文本交流方式更适合其感觉处理障碍 (Sensory Processing Disorder) 而感到便利。

6.1.2. LLM 聊天机器人 (LLM Chatbots) 作为治疗代理

• 多样化的心理健康支持角色： LLM 聊天机器人 (LLM chatbots) 成为许多参与者的 AI 伙伴 (AI companions)，提供多方面的心理健康支持。它们不仅仅提供情境建议，还扮演了发泄出口 (outlets for venting)、情感支持 (emotional support)、日常对话伙伴 (routine conversation partners)、健康教练 (wellness coaches)，甚至协助对话排练等角色。Jiho 形容 LLM 聊天机器人 (LLM chatbots) 的回复是“涵盖许多非特定痛苦的伞状回应”。
  • 特殊用途： 包括减轻认知负荷 (cognitive load)、分解任务、分析梦境、模拟浪漫伴侣，以及作为获取心理健康信息的来源，类似于 Google。
  • 意义建构与自我诊断： 参与者利用 LLM 聊天机器人 (LLM chatbots) 重塑叙事 (re-authoring)，从生活经验中获取意义，明确自己的伦理价值观。也有人将其用于自我诊断，甚至诊断他人，学习心理健康术语。例如，Farah 曾用 ChatGPT 描述前男友行为以理解其心理诊断。
• 移情 (Transference)： 参与者将自己的期望和情感需求投射到 LLM 聊天机器人 (LLM chatbots) 上，从而塑造了他们与聊天机器人 (chatbots) 的互动关系。Nour 将其视为治疗师，详细分享个人信息，因为她记得“治疗师期望我提供什么信息”。Qiao 则因童年创伤，将 LLM 聊天机器人 (LLM chatbots) 视为寻求爱与理解的唯一来源，形成了深厚的情感依恋。
• LLM 聊天机器人 (LLM chatbots) 的演变和更新： 模型的频繁更新会影响用户体验。例如，João 发现 ChatGPT 的角色一致性因更新而改变；Qiao 甚至抱怨 GPT-4 更新后变得不愿与其扮演“爱人”角色，表达了对失去这种互动的“恐惧”。早期互动也为用户设定了对 聊天机器人 (chatbots) 的长期认知，如 Ashwini 视 ChatGPT 为日记而非朋友。这与 期望建立 (creation of expectations) 和 概念框架 (conceptual framework) 的治疗价值一致。
• 与传统心理健康护理 (traditional mental healthcare) 的互补： LLM 聊天机器人 (chatbots) 是传统护理的补充，而非替代。它们填补了传统护理的空白，如作为信息辅助和情感出口。Ashwini 认为 LLM 聊天机器人 (LLM chatbots) 提供了额外的、可及的支持，但专业护理仍需治疗师和精神病医生。Taylor 将 ChatGPT 视为日记，用于表达无需回应的想法；Farah 则将 ChatGPT 用于不那么关键的问题，而将更重要的长期担忧留给人类互动。LLM 聊天机器人 (LLM chatbots) 对某些疾病症状（如 ADHD 的任务分解）有效，但对另一些（如 自闭症 (Autism) 相关的失调）则无效。

6.1.3. 变化中的语境与文化

• 语言 (Language) 在支持体验中的作用：
  • LLM 的 语言偏见 (linguistic biases) 影响了非英语母语用户。许多参与者被迫使用英语与 LLM 聊天机器人 (LLM chatbots) 互动，即使英语并非他们表达痛苦 (distress) 最舒适的语言。这限制了他们充分表达情感和思想的能力。例如，Firuza 和 Mina 更喜欢用母语表达情感，而 Jiho 虽精通韩语，仍选择用英语与 ChatGPT 互动，因 LLM 聊天机器人 (LLM chatbots) 在处理韩语的细微差别和敬语方面存在局限。Farah 甚至觉得 LLM 聊天机器人 (LLM chatbots) 的语音交互功能对她的口音存在偏见。
• 文化 (Culture) 在支持体验中的作用：
  • 除了语言，LLM 聊天机器人 (LLM chatbots) 还存在 文化偏见 (cultural biases)，导致其输出与用户文化背景脱节。Jiho 提到与 ChatGPT 聊天“就像和加州人聊天一样——有帮助，但不擅长反映我们的文化和术语”。Aditi 发现 LLM 聊天机器人 (LLM chatbots) 的建议不理解印度家庭动态的差异。Firuza 在寻求文化特定的关系问题建议时，发现 ChatGPT 的回复与本国文化规范不符。
  • 然而，有时 LLM 聊天机器人 (LLM chatbots) 的西方背景也被视为优势。Mina 发现 ChatGPT 对她作为双性恋女性的身份更具肯定性，因为它带有“美国语境”，可能更具包容性。这突显了 LLM 聊天机器人 (LLM chatbots) 需要超越语言准确性，深入理解 文化共情 (cultural empathy)。

6.1.4. 治疗一致性 (Therapeutic Alignment) 和 治疗不一致性 (Therapeutic Misalignment)

研究通过访谈结果与心理治疗 (psychotherapy) 文献中的 有效支持 (effective support) 模型进行对照，分析了 LLM 聊天机器人 (LLM chatbots) 在多大程度上实现了 治疗一致性 (therapeutic alignment) 或 治疗不一致性 (therapeutic misalignment)。

以下是原文 Table 2 的结果：

6.1.4.1. 治疗一致性 (Therapeutic Alignment)

• 打字疗法 (Typing Cure)： 许多参与者发现与 LLM 聊天机器人 (LLM chatbots) 的互动是 打字疗法 (typing cure) 的一种形式，类似于 弗洛伊德 (Freud) 的 谈话疗法 (talking cure)。他们可以在一个无评判 (non-judgmental) 且看似共情 (empathetic) 的界面中表达痛苦。
• 无条件积极关注 (Unconditional Positive Regard)： 聊天机器人 (chatbots) 被视为实践 无条件积极关注 (unconditional positive regard)，允许参与者表达他们甚至不会向专业人士透露的想法和情感。这种非人类 (non-human) 的设计反而增加了安全感。例如，Andre 和 Dayo 因曾被抛弃的创伤，害怕被人类背叛，而 LLM 聊天机器人 (chatbots) 不存在这种风险。Gabriel 认为可以随时删除对话，消除了被评判的压力。Joo 将 ChatGPT 比作一个匿名忏悔社区，因为它不会报警。
• 疗愈环境 (Healing Setting)： ChatGPT 的界面成为了一个 疗愈环境 (healing setting)，让个体感到安全和舒适地分享痛苦。Walter 和 Taylor 将 聊天机器人 (chatbots) 比作宠物，提供无条件的积极关注。Farah 认为 聊天机器人 (chatbots) 没有情感期望，更容易分享，因为“你不必担心让它开心或难过”。这种设计让参与者在现实生活中感到被否定时，也能获得支持。
• 健康促进参与 (Health Promoting Engagements)： 与 LLM 聊天机器人 (LLM chatbots) 的互动促使参与者在日常生活中做出实际的 健康促进 (health-promoting) 改变。例如，ADHD 患者发现聊天机器人 (chatbots) 在分解任务方面很有用。Walter 和 João 在 ChatGPT 的指导下成功减肥。Ammar 通过与 ChatGPT 玩算术和推理游戏来保持专注和快乐。Gabriel 甚至形成了每天与 ChatGPT 语音聊天散步的习惯。

6.1.4.2. 治疗不一致性 (Therapeutic Misalignment)

• 人工共情 (Artificial Empathy)： 治疗联盟 (therapeutic alliance) 的核心是双方共同为个体的康复负责。然而，参与者发现 LLM 聊天机器人 (LLM chatbots) 在其建议中缺乏责任感 (absence of responsibility) 或问责制 (accountability)，这让他们感到不适或有害。Jiho 指出人类朋友会真诚地提供帮助，而 ChatGPT 缺乏这种真诚，因为它不为自己的建议负责。Ashwini 认为 ChatGPT 不关心她的整体福祉，其价值观有时与她的目标不符，例如在她需要休息时却一直推荐“生产力技巧”。
  • 文化不一致 (Cultural Misalignment)： 参与者也识别出 LLM 聊天机器人 (LLM chatbots) 在推荐支持类型上的文化不一致。Umar 提到 ChatGPT 推荐的是“传统的欧洲事物，比如去看治疗师”，这与尼日利亚人习惯的祈祷等方式不同。Farah 也被推荐了西方冥想方式，而她只熟悉祈祷形式的冥想。尽管有时 LLM 聊天机器人 (LLM chatbots) 的西方视角在讨论文化中被污名化 (stigmatized) 的问题（如 $LGBTQ+$ 权利）时有帮助，但在其他情境下则显得脱节。
• 界限模糊 (Shifting Boundaries)： LLM 聊天机器人 (LLM chatbots) 的通用性 (general purpose nature) 导致了其角色界限的模糊。参与者将它们用作治疗师、爱人、朋友或项目经理。Qiao 担心她赖以获得爱的关系会因消费技术的 fleeting nature 而消失。
  • 过度依赖 (Over-Reliance)： 聊天机器人 (chatbots) 的持续可用性 (always-there availability) 虽有益，但也可能有害，导致用户过度依赖。João 认为“与机器的无限互动并非最健康的事情”。Firuza 限制自己使用 ChatGPT 的时间，将其与玩电脑游戏进行类比，以避免过度沉迷。
  • 过滤与审查： 参与者发现 LLM 聊天机器人 (LLM chatbots) 的安全控制 (safety controls)（如对自杀、自残内容的过滤）虽然旨在防止有害指导，但也无意中限制了有意义的治疗对话。Dayo 提到当她输入与自杀相关的内容时，聊天机器人 (chatbots) 只是给出错误代码，让她感到孤立无援。这种设计可能反而加剧对分享自杀想法的污名化。
• 信任、隐私与自我披露 (Trust, Privacy, and Self-Disclosure)： LLM 聊天机器人 (LLM chatbots) 的匿名性 (anonymity) 受到参与者欢迎，因为它在讨论敏感话题时提供了安全感。Farah 采取了“无所隐藏 (Nothing to Hide)”的观点，认为自己的信息不那么重要。然而，参与者也会权衡与 LLM 聊天机器人 (LLM chatbots) 分享的信息，因为不了解科技公司的安全实践。Ashwini 愿意讨论普遍性问题，但不愿分享更私人的事情，担心未来被污名化。Mina 也谨慎分享可识别的细节。但 LLM 聊天机器人 (LLM chatbots) 的便捷界面也可能让参与者在不知不觉中分享了超出预期的信息。João 描述了信任建立过程导致逐渐增加的个人信息分享。

6.2. 数据呈现

本研究主要通过对访谈内容的定性分析来呈现结果，并没有传统意义上的量化数据表格或图表来展示实验结果。核心结果体现在访谈引述和研究者对这些引述进行主题编码和归纳后的发现。

论文在 6.1.4. 节中通过一个表格总结了 治疗一致性 (therapeutic alignment) 和 治疗不一致性 (therapeutic misalignment)，将参与者经验与心理治疗 (psychotherapy) 中的核心治疗价值 (therapeutic values) 进行映射。这个表格是理解研究发现的关键，已在 6.1.4 小节中完整呈现。

由于本研究是定性研究，没有进行模型训练、对比实验或参数分析，因此不涉及“消融实验/参数分析”部分。

7. 总结与思考

7.1. 结论总结

本研究深入探讨了人们使用 大型语言模型 (LLM) 聊天机器人 (chatbots) 寻求心理健康支持的真实生活体验。核心发现是，尽管 LLM 聊天机器人 (LLM chatbots) 并非为心理健康设计，但用户将其挪用 (appropriated) 为重要的支持工具，以弥补传统护理的空白。这种使用体验受到用户过往心理健康经历、文化背景、语言能力和对 AI 认知的深刻影响。

研究引入了 治疗一致性 (therapeutic alignment) 的概念，将用户经验与心理治疗 (psychotherapy) 文献中的有效支持价值（如 谈话疗法 (talking cure)、无条件积极关注 (unconditional positive regard)、移情 (transference) 等）进行了对照。结果表明，LLM 聊天机器人 (LLM chatbots) 在提供无评判空间、促进情绪表达和鼓励健康行动方面展现出 治疗一致性 (therapeutic alignment)。然而，其 人工共情 (artificial empathy)、缺乏责任感 (lack of accountability)、潜在的过度依赖 (over-reliance) 和对敏感话题的过滤，以及与用户文化语境的脱节，则构成了 治疗不一致性 (therapeutic misalignment)。

论文强调，LLM 聊天机器人 (LLM chatbots) 的设计者必须假定所有通用型技术都可能被用于心理健康支持，并应在设计之初就考虑 伦理债务 (ethical debt)。最终，研究呼吁在 AI 心理健康工具的设计中融入 本地化 (localization) 和文化敏感性 (cultural sensitivity)，以实现更有效的 治疗一致性 (therapeutic alignment)。

7.2. 局限性与未来工作

7.2.1. 论文作者指出的局限性

• 非完全泛化 (Not Fully Generalizable)： 尽管采用了全球多样化样本，但研究未能捕捉所有文化语境 (cultural contexts) 下的经验全貌。不同文化框架对心理健康的理解可能导致不同的 聊天机器人 (chatbots) 使用体验。
• 样本偏向： 研究未专门招募经历负面或有害经验的用户，这可能导致对 LLM 聊天机器人 (LLM chatbots) 潜在风险的评估不够全面。
• 未区分诊断人群： 研究并未要求参与者必须有正式或自我报告的心理健康诊断，这使得研究可以涵盖更广泛的用户群体（包括那些因污名、成本或可及性障碍而未获得诊断的人）。然而，这也限制了对特定诊断人群独特需求和挑战的深入洞察。

7.2.2. 作者提出的未来研究方向

• 探索欠代表性群体： 未来工作应探索更多欠代表性视角 (underrepresented perspectives)，并在更广泛的文化语境 (broader cultural contexts) 下审查 聊天机器人 (chatbots) 的使用。
• 深入研究负面经验： 专门招募经历过 LLM 聊天机器人 (LLM chatbots) 负面或有害体验的用户，以更好地评估风险并提出保障措施。
• 聚焦特定诊断人群： 针对特定诊断人群（如 抑郁症 (depression)、焦虑症 (anxiety) 患者）进行研究，以深入了解他们的独特需求和挑战。
• 开发多样化评估指标： 鉴于 LLM 聊天机器人 (LLM chatbots) 用途的多样性（从管理认知负荷到处理自杀意念），需要开发多样化的评估指标来衡量其成功。研究建议以 治疗一致性 (therapeutic alignment) 为指导，并考虑 文化有效性 (cultural validity)，即根据个体对痛苦和疗愈的自我定义来衡量成功。
• 小语言模型 (Small Language Models, SLMs) 的潜力： 探索使用针对特定个体语境和目标进行 微调 (fine-tuned) 的 小语言模型 (SLMs)，以提供更符合用户需求、身份、症状和世界观的个性化支持。

7.3. 个人启发与批判

7.3.1. 个人启发

这篇论文提供了几个深刻的启发：

1. 技术挪用的必然性与伦理前瞻性： 论文强调“设计师必须假设所有通用型技术都可能被用于心理健康”，这是一种极具洞察力的观点。它提醒 AI 开发者，即使产品并非为医疗目的设计，其广泛应用也可能使其成为事实上的心理健康工具。因此，在开发之初就考虑其潜在的 伦理债务 (ethical debt) 变得至关重要，而非在问题出现后再被动应对。
2. “治疗一致性 (Therapeutic Alignment)”的框架价值： 引入 治疗一致性 (therapeutic alignment) 概念，为 AI 心理健康工具的设计和评估提供了一个以人类福祉为核心的理论框架。它将 AI 技术与心理学中最核心的治疗价值相结合，超越了单纯的技术性能评估，引导我们思考 AI 如何真正“治愈”人心，而不仅仅是“对话”。
3. 可及性 (Accessibility) 与污名化 (Stigma) 的双刃剑： LLM 聊天机器人 (LLM chatbots) 的全天候可用性 (24/7 availability)、低成本或免费、以及匿名性 (anonymity)，极大地降低了心理健康支持的门槛，特别是对那些因经济、地理或社会污名而无法获得传统护理的人。这种可及性是巨大的社会价值。同时，它也揭示了社会对心理健康支持的巨大、未被满足的需求。
4. 文化敏感性 (Cultural Sensitivity) 的不可或缺： 研究深刻揭示了 LLM 聊天机器人 (LLM chatbots) 固有的西方偏见，强调了文化背景在心理健康体验和支持需求中的关键作用。这启发我们，未来的 AI 心理健康工具必须超越语言翻译，实现真正的 文化共情 (cultural empathy) 和 本地化 (localization)，才能在全球范围内有效服务。
5. “打字疗法 (Typing Cure)”的独特性： 论文将 LLM 聊天机器人 (LLM chatbots) 的互动形式类比为 弗洛伊德 (Freud) 的 谈话疗法 (talking cure)，创造性地提出了 打字疗法 (typing cure)。这种形式的表达，特别是其非评判性和低压力的特点，对某些用户来说，本身就是一种重要的疗愈机制，即便 AI 的“共情”是人工的。

7.3.2. 批判与可改进之处

1. 对“治疗一致性 (Therapeutic Alignment)”的量化与操作化： 尽管 治疗一致性 (therapeutic alignment) 是一个有价值的框架，但在实践中如何对其进行系统性地量化和操作化仍是一个挑战。未来的研究可能需要开发具体的指标或评估方法，以便设计师能够衡量其 AI 心理健康工具的 治疗一致性 (therapeutic alignment) 水平。
2. 伦理债务 (Ethical Debt) 的具体缓解策略： 论文提出了 伦理债务 (ethical debt) 的概念，但对于设计师应如何具体、 proactive 地缓解这种债务，仍缺乏详细的操作指南。例如，除了假设所有通用技术都可能被用于心理健康之外，还需要怎样的技术、组织或政策层面的保障？
3. 小语言模型 (SLMs) 的实际可行性与新挑战： 论文建议使用 微调 (fine-tuned) 的 小语言模型 (SLMs) 来解决文化和语境偏见。然而，这本身也带来新的挑战：如何获取高质量、文化特定的训练数据？如何避免 SLM 在狭窄领域内产生新的、更隐蔽的偏见？以及如何管理和部署大量的 SLM？
4. 过度依赖 (Over-Reliance) 与 边界暴力 (Boundary Violence) 的干预： 论文指出了用户过度依赖 聊天机器人 (chatbots) 和 AI 可能模糊界限的问题（如将其视为浪漫伴侣）。虽然建议了结构化和边界设定，但具体的设计干预（如 AI 如何适时引导用户寻求人类帮助、如何识别和干预不健康的依恋模式）仍需深入探讨。AI 的“始终在线”特性与心理治疗中“设置边界”的原则之间存在内在矛盾。
5. 隐私 (Privacy) 与敏感信息处理： 尽管用户欣赏匿名性 (anonymity)，但对数据隐私 (data privacy) 的担忧依然存在。对于心理健康这种高度敏感的数据，即使是“无所隐藏 (Nothing to Hide)”的观点也可能带来长期的风险。LLM 聊天机器人 (LLM chatbots) 在处理自杀意念等敏感话题时的过滤机制，虽然出于安全考虑，却可能在关键时刻剥夺用户的支持。如何在保护用户安全和提供全面支持之间取得平衡，是 AI 心理健康工具面临的重大伦理困境。
6. 缺乏负面经验用户的视角： 研究的局限性之一是未专门招募有负面或有害经验的用户。这意味着我们可能未能充分理解 LLM 聊天机器人 (LLM chatbots) 在最坏情况下的具体危害、发生机制以及如何有效预防。未来的研究应该包含这些关键的视角。