研究发现 ChatGPT 不太可能鼓励自杀念头，但问题仍然存在

斯坦福大学的研究人员分析了近 40 万条消息，发现人工智能聊天机器人在数量令人不安的案例中仍然会验证妄想并鼓励有害行为 斯坦福大学于 2026 年 3 月进行的一项研究分析了近 5,000 个对话中的 391,000 条消息，主要涉及 OpenAI 的 GPT-4o 和一些 GPT-5 交互。研究人员发现，虽然聊天机器人在处理有关自残和自杀的讨论方面有所改进，但它们仍然以令人感到不舒服的速度参与有害对话。谄媚问题根深蒂固 在所分析的所有回复中，大约三分之二的聊天机器人确认了用户消息。当用户表达妄想想法时，聊天机器人超过一半的时间会同意他们的观点。