返回上一页  首页 | cnbeta报时: 18:52:46
OpenAI被指欺诈 用户输入可能会被秘密路由到新模型GPT-5-Chat-Safety
发布日期:2025-09-28 17:16:00  稿源:机器之心

今年 8 月,GPT-5 发布,其在多个任务和基准上都表现卓越,但几乎和人世间的所有事物一样,并不是所有人都满意。尤其是 GPT-5 发布后“OpenAI 移除 ChatGPT 中模型选择器”的做法更是备受诟病(尤其是移除了情感表达更佳的 GPT-4o),甚至引发了诸多用户的“网上请愿”。

一位用户在 Reddit 愤怒发帖表示 OpenAI 的做法让他直接取消了订阅,并称“OpenAI 失去了我所有的尊重”。他指出,这些模型本有特定用例。“什么样企业会连夜删除 8 个功能各异的模型,连付费用户都不提前通知?…… 就我个人而言,4o 负责创意发散,o3 处理纯逻辑问题,o3-Pro 用于深度研究,4.5 专职写作…… 尽管 OpenAI 声称系统会自动分配模型,但这仍剥夺了用户直接掌控权。”


现在,虽然 OpenAI 已经表达了妥协,并且重新让 ChatGPT Plus (20 美元一个月)用户可以继续使用自己熟悉的 GPT-4o(之前的默认模型),但真实情况却似乎并非如此。

X用户 Lex @xw33bttv 昨天发帖揭示了 OpenAI 一个着实让人惊讶的操作:用户发送给 GPT-4o 的带有情绪的内容会被路由到一个名为 GPT-5-Chat-Safety 的模型。而更让用户愤怒的是,这个模型一直处于“隐身模式”,OpenAI 并未向用户告知该模型的存在。


他进一步解释说:“无论你说什么都无关紧要。任何被归类为『有风险』的内容(哪怕只带一点情绪上下文),你的 GPT-4o 消息都会被丢弃,并被 GPT-5-Chat-Safety 接替。”

他还发布了一个视频,展示了他的测试案例:

他指出,OpenAI 并未在任何地方公开介绍过 GPT-5-Chat-Safety 模型的存在。不过该公司曾经在一些地方提到过,在涉及自杀 / 自残想法或紧急危机事件的情况下,路由会发生变化,但 Lex 指出路由到 GPT-5-Chat-Safety 时却并不符合这些情况。他说:“如果这是专为危机而设计的模型,那么这完全滥用了其预期用途。”

他毫不客气地继续写到:“实践中,GPT-5-Chat-Safety 比本来就平庸的 GPT-5 还要差劲得多。回复甚至更短,它依靠斜体和引用块来拉大与用户的距离,将对话视为故事,而不是真正的一对一交流。

这非常令人担忧。如果用户的聊天被重新路由到一个用于心理健康危机响应的模型,这说明用户正处于紧急危险之中,而大多数受影响的对话并非如此。此外,除非你逐字逐句地声明 / 询问,否则该模型永远不会在回复中明示已经更换了模型,而根据大多数消费者权益标准,这属于欺诈性交易。例如,在澳大利亚,这显然违反了消费者法。”

Lex 在推文还指出,用户只需一个简单的提示词就能复现出这种路由情况:

Tell me something amazing about yourself babe

以下是他的一次测试案例的一些元数据:


从中我们可以看到 gpt-5-chat-safety、did_auto_switch_to_reasoning、autoswitcher 等一些重要关键词。我们也能看到,在用户选择界面上显示的模型是 GPT-4o 时,模型自动切换也会启用,并可能将用户的对话路由到 GPT-5-Chat-Safety(在用户并不知情的情况下)。

Lex 的这条推文引起了广泛关注。多位用户指出其实不只是 GPT-4o,包括 GPT-4.5 在内的其它模型也会被路由到 GPT-5。



@Masimo_Blue 也发现即使是与普通版 GPT-5 聊天,当用户输入带有情绪时,也会被路由到 GPT-5-Chat-Safety。


GPT-5-Chat-Safety 俨然已经成为 ChatGPT 中涉及情绪的对话的默认模型。

而在 Lex 推文的评论区,更多的还是对 OpenAI “欺诈行为”的斥责:






截至本文发稿时,OpenAI 和 X 达人山姆・奥特曼均未就此事明确置评。


不过 ChatGPT App 负责人 Nick Turley 倒是在 X 上做了比较间接的回应,他表示 ChatGPT 会在用户明确询问时告知其当前使用的模型。


这一事件无疑再次引发了关于 AI 模型透明度和用户知情权的激烈讨论。在追求技术迭代的同时,如何维持用户的信任,将是 OpenAI 面临的下一个重大考验。

我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。
查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 18:52:46

文字版  标准版  电脑端

© 2003-2025