概要：在 GPT-5 预计发布之前，OpenAI 已经实施了一系列变化促进 ChatGPT 的“健康使用”，包括旨在检测用户何时经历精神困扰的增强工具。

详细信息：

OpenAI 表示，虽然这种情况很少见，但也存在 GPT-4o 无法识别“妄想或情感依赖”迹象的情况。该公司现在已经在 ChatGPT 中建立了自定义规则，用于评估聊天、标记困扰并使用基于证据的资源进行适当回复。OpenAI 正在与医生、人机交互专家和顾问小组合作，以获得反馈并改进其在这种情况下的方法。它还增加了提示，以防止用户进行长时间的聊天，并改变其不那么果断的方式，帮助用户思考高风险的情况。

为什么重要：在 GPT-5 发布之前，OpenAI 始终将用户安全放在首位，并重申其致力于关注用户福祉。随着人类与高级人工智能的互动日益频繁，需要开展更多研究，但这正朝着负责任的使用迈出了一步，OpenAI 在发布其下一个模型之前就明确了这一点。