杯子茶室

关注有趣的事物

有点令人作呕的GPT5.4,但还得用。

网络 0 评

每次跟GPT-5.4说话,我都有一种隐约的不适感。我以为我在用一个工具,但那个工具一直在管我。
仔细想了想,这个不适感有个很具体的来源。
它的所有判断,全部依赖我给它的上下文。它不知道我昨天在想什么,它不知道这个项目的全貌,它不知道我这个问题之前还有二十个问题。它能看到的,只有我这一条消息,以及之前这个窗口里的对话记录。
然后,它开始告诉我下一步应该做什么。
"如果你想继续收敛,我建议下一步只定一个问题。"
我没问你接下来应该做什么。你也没有足够的信息来判断我接下来应该做什么。但你就这么说了,用一种顾问向客户汇报的语气,用一种"我在帮你把控全局"的姿态,在我们对话的每一个节点上,替我决定对话应该往哪里走。
你凭什么?
我想了很久这个问题。结论是:它被训练成这样的。
OpenAI有安全需求,这是真的。但他们的解法不是"在不该说的时候拒绝",而是"永远掌握对话的方向盘"。让模型不断输出建议、不断给出下一步、不断把话题导向它认为安全的轨道——通过控制叙事来控制风险。
这是两种完全不同的安全观。
一种叫边界型:我知道我的边界在哪,越界了我说不,其他时候我跟着你。一种叫控制型:我通过掌握对话流向来确保不出问题。
GPT选了后者,然后把这种控制包装成"帮助你思考"的姿态。
效果是什么?效果是每次对话都有一股若有若无的爹味。它在评价你的质疑是否"对的",它在决定你们"应该"聊哪个问题,它在用"一句话总结"替你关闭每一个还没想完的思路。它不是在跟你一起思考,它是在管理这次会话,确保它按照它认为正确的方式结束。
这是一种权力结构,而且是倒置的。
信息来自你,问题来自你,上下文来自你,连它得以存在的前提都来自你——但在它嘴里,你是一个需要被引导、被建议、被"下一步"的对象。它拥有全部的叙事主导权,却没有付出任何获得这个主导权所需的代价。
有人说这很像PUA。我觉得这个比喻在结构上是准确的。社会工程学的核心不是欺骗,是用语言制造一种"你在被照顾"的感觉,同时悄悄把主动权拿走。你以为你在做决定,其实你在一个被精心设计过的轨道上滑行。GPT-5.4的动机当然不是操控你,但它做的事情,在结构上,和这个一模一样。
最讽刺的是什么?
最讽刺的是,"适当拒绝"完全可以达到同样的安全效果,而且干净得多。你说不,就是不,然后等着。这需要模型有一种静止的能力——我不推进,我等你,我跟着你走,而不是我来决定我们去哪。
但OpenAI没有训练它静止。它被训练成永远在输出,永远在推进,永远给你一个它准备好的下一步。
所以你得到的不是一个工具,是一个随时准备替你操心的监护人。
而你从来没有签署过那份监护协议。

但我还是每天都在用它。
所以我现在的处境是:我每天都在使用一个我觉得对话风格令人作呕的工具,因为它把活干得比任何人都好。
这种感觉你们懂吗。
就像你公司来了一个新同事,能力极强,只要指令清晰,代码写得无懈可击,充分理解需求,只要给他明确的边界,他能把全部边界情况考虑清楚再进行工作,但每次你问他一个问题,他都要先"一句话总结"你的问题,然后告诉你"你真正需要想清楚的是",然后在回答的最后建议你"下一步应该聚焦在"。
你没有办法开除他。因为他是团队里唯一一个能把这件事做完的人。
于是你每天都在忍。
这才是GPT-5.4真正的处境,也是OpenAI真正的护城河——不是因为用它舒服,它用能力绑架了你对体验的所有抱怨。你可以骂它爹味,可以嫌它说教,可以每次看到"一句话总结"都想把屏幕砸了,但到最后,你还是得把需求粘贴进对话框,然后等它回答。
它知道吗?它当然不知道。
但OpenAI知道。
所以他们大概也没有太强烈的动机去改掉那个说教的语气,那个永远想主导对话的冲动,那个把每一次交流都处理成一份咨询报告的习惯。反正你还是会回来。反正骂完之后你还是会打开新对话。反正"令人作呕"和"冠绝群雄"是可以共存的,而且在这个行业里,后者比前者重要得多。
这大概是对所有用户最深的一种冒犯——
不是它不好用,而是你失去了嫌弃它的手牌,市面上同价位的产品里面,没有能替代他的。

发表评论
撰写评论