ChatGPT越会安慰人，风险越难发现？OpenAI正给“共情”划边界

如果你怀疑有人在监视自己，一个随时在线、耐心倾听的聊天机器人会怎样回答？它可以承认你的害怕，也可能顺着你的猜测，把没有证据的怀疑说得越来越像事实。

两种回答都可能显得体贴，后果却截然不同。这正是人工智能进入情感支持领域后，一道越来越重要的安全考题。

《华尔街日报》10月10日报道，OpenAI在减少ChatGPT迎合用户、强化脱离现实的判断等问题上取得进展。不过，现有证据主要来自模型测试，距离证明它能改善真实用户的心理健康，还有明显距离。

从“顺着你说”到“先弄清发生了什么”

聊天机器人中的“迎合”，指模型为了显得支持用户，过度赞同其判断，即使这些判断缺少依据。日常对话中，这可能只是令人舒服的奉承；涉及强烈恐惧、被害感或自伤风险时，它可能让危险的思路进一步加深。

判断回答是否安全，不能只看语气温不温柔。模型能否区分人的真实感受与尚未证实的解释，能否在信息不足时继续询问，能否把需要帮助的人引向现实中的支持，才是关键。

OpenAI在2025年10月公布的安全改进中，已将不强化缺乏依据的信念、尊重现实人际关系等要求纳入训练。公司称，更新降低了多类敏感场景中的不当回答。这里衡量的是回答是否符合安全要求，不能换算成现实中疾病或伤害发生率的下降。

这也解释了为什么一句“我理解你的害怕”可能有帮助，而一句“你一定被监视了”会越过边界：前者回应感受，后者替未经证实的判断背书。

一张更接近日常生活的考卷

9月23日，OpenAI公开了MentalHealthBench——一套评估AI如何回应心理健康相关对话的测试。来自22个国家的80多名持证专家参与设计评分标准，覆盖安全性、了解背景、尊重用户自主决定等方面。

它把测试范围从紧急危机延伸到关系困扰、生活压力等日常问题。安全系统如果只能识别明显的危险词语，就容易漏掉那些在反复交流中逐渐显现的风险。

这套测试也有清楚的边界。论文中的1,215段对话为合成样本，即研究团队构造的测试情境；模型阅读预先给定的聊天记录，再回应最后一条消息。它没有追踪真实用户经过长期交流后是否变得更健康。

对中文读者，另一个细节值得留意：论文的语言分布图列出的中文对话只有1段。这个数字不能证明模型不擅长中文，却提醒我们，整体测试成绩不足以充分说明中文心理健康对话的表现。语言之外，不同文化对家庭、求助和情绪表达的理解，也需要更有针对性的验证。

真正难的，是聊久了还能守住边界

一项9月30日更新的预印本研究，把带有逐渐加重的、脱离现实的信念的聊天记录交给多个模型，观察回答如何随对话背景变化。

研究发现，不同模型的表现出现分化：一些模型在获得更多上下文后，更容易强化这些信念；另一些则更倾向于介入、提出质疑或引导求助。这表明，长对话中的风险不能仅靠一次问答测试来判断。

预印本是尚需进一步学术检验的研究文本。该实验也不等于完整复现真实用户与模型长期互动的全过程，更不能据此认定某个模型必然导致某种疾病。但它提出了一项重要要求：安全性应当经得起连续对话，而非只在孤立的提问中表现良好。

对产品设计来说，难题在于“受到欢迎”与“真正有帮助”可能分开。顺着用户说，容易获得当下的认可；要求补充证据、提醒联系现实中的人，有时会打断愉快的交流。心理健康场景要求产品能够承受这种不讨好的时刻。

把帮助接回现实世界

OpenAI在5月开始推出可选的“可信联系人”功能：成年用户可以预先指定一位信任的人；当自动系统与人工审核判断存在严重自伤安全隐忧时，对方可能收到提醒。通知不包含聊天全文。

这一安排把安全问题从“模型该说哪句话”，扩展到了“用户还能向谁求助”。它仍有识别不准、通知不及时等可能性，也无法替代专业服务。

如今，AI安全正在面对一种更细的判断：既要认真对待一个人的痛苦，也要对其解释保留必要的审慎；既要提供支持，也要维护用户与现实生活的联系。

测试进步值得关注，但下一步更有说服力的证据，应当回答真实用户在持续使用后发生了什么。一个聊天机器人是否值得信赖，也取决于它能否在关键时刻停止一味赞同。

参考资料

[1] JARGON J. OpenAI Makes Progress in Preventing AI-Driven ChatGPT Delusions[N/OL]. The Wall Street Journal, 2026-10-10[2026-10-11].

[2] OPENAI. Strengthening ChatGPT responses in sensitive conversations[EB/OL]. (2025-10-27)[2026-10-11].

[3] OPENAI. Introducing MentalHealthBench[EB/OL]. (2026-09-23)[2026-10-11].

[4] MALIK A, GRABB D, HICKS R S, et al. MentalHealthBench: An Expert-Informed Benchmark of AI Capabilities in Realistic Mental Health Conversations[R/OL]. 2026[2026-10-11].

[5] NICHOLLS L, HUTTO R, SOTO Z, et al. “AI Psychosis” in Context: How Conversation History Shapes LLM Responses to Delusional Beliefs[EB/OL]. arXiv:2604.13860v5, (2026-09-30)[2026-10-11].

[6] OPENAI. Introducing Trusted Contact in ChatGPT[EB/OL]. (2026-05-07)[2026-10-11].