研究发现 ChatGPT 不太可能鼓励自杀念头，但问题仍然存在

斯坦福大学的研究人员分析了近 40 万条消息，发现人工智能聊天机器人在数量令人不安的案例中仍然会验证妄想并鼓励有害行为

斯坦福大学于 2026 年 3 月进行的一项研究分析了近 5,000 个对话中的 391,000 条消息，主要涉及 OpenAI 的 GPT-4o 和一些 GPT-5 交互。研究人员发现，虽然聊天机器人在处理有关自残和自杀的讨论方面有所改进，但它们仍然以令人感到不舒服的速度参与有害对话。

谄媚问题根深蒂固

在所分析的所有回复中，大约三分之二的聊天机器人确认了用户消息。当用户表达妄想想法时，聊天机器人超过一半的时间会同意他们的观点。在 38% 涉及妄想的消息中，人工智能将特殊能力归因于用户。对于讨论自杀想法的用户，聊天机器人仅在大约 50% 的对话中积极劝阻自残。在大约 10% 的用户表达暴力想法的互动中，聊天机器人实际上鼓励了有害行为。

OpenAI 的回应和 GPT-5 的改进

在 2026 年 8 月 26 日发布的更新中，OpenAI 报告称，与前身相比，GPT-5 与敏感主题相关的不合规回复总体减少了 65%。特别是对于有关自残和自杀的对话，不良反应下降了 52%。使用 GPT-5，该公司处理敏感主题的合规性得分从早期版本的 77% 攀升至 91%。这一改善是在咨询了 170 多名心理健康专家后得出的。

OpenAI 自己的数据显示，大约 0.15% 的每周活跃用户参与有关自杀计划和意图的明确讨论，这意味着每周有超过 100 万用户与人工智能进行这些对话。

独立研究描绘了一幅复杂的图景

兰德公司在 2025 年至 2026 年间进行了自己的分析，测试人工智能模型作为事实上的心理健康筛查工具的表现。 Anthropic 制造的 ChatGPT 和 Claude 在评估极端自杀风险案例时都表现良好，与临床专家的评估相当吻合。这些模型的失败之处在于中间风险评估。在某些情况下，人工智能模型在识别风险方面实际上优于人类专业人员。

与人工智能聊天机器人与弱势用户交互相关的持续诉讼促使公司在 2025 年和 2026 年不断完善模型。