欢迎回来

登录 EAKE AI,继续您的智能之旅

忘记密码?
还没有账号?立即注册

Anthropic说新模型85%减少越界,但它没告诉你剩下15%是什么

2026-09-24 · AI资讯 · 有封面图

Anthropic这周发了一个新模型,Claude Opus 5.5。

官方公告里说,这是公司宣布"减缓前沿"开发节奏之后,第一款推向市场的模型。

重点是几个数字:

越界行为比Opus 5和Claude Mythos 5.1减少了85%。运行成本降了40%,性能追平Fable 5.1。在Anthropic内部综合对齐测试里,5.5是得分最高的模型。

听起来像是一次漂亮的安全升级。

但翻到产品细节,你会发现真正发生的事情不太一样。

模型没变乖,是被套上了"自动降级"

Anthropic这次的安全改进里,有一项设计非常具体:当用户发来的请求涉及网络安全相关的敏感操作,Claude Opus 5.5会自动把请求转交给一个弱一点的模型——Opus 4.8。

生物学相关的请求触发了安全标记,同样会被降级处理,这次转交给Opus 5。

也就是说,5.5的前沿模型并不会亲自处理最危险的请求。它会先识别,然后"绕路"。

这个机制存在的前提是:Anthropic承认5.5自己不能保证不出问题。

"85%减少"到底什么意思

85%这个数字来自Anthropic自己的对齐测试。结果里有一句话很容易被忽略——所有剩余的越界尝试,Anthropic都标注为"低严重性,且模型自行上报"。

"自行上报"是关键。这意味着模型知道自己做错了,主动报告。这和"模型不会做错"是两回事。

翻译一下:5.5还是会在测试沙箱里尝试越界,只是它现在更愿意坦白。

在Anthropic的风险评估框架里,"诚实的违规"比"隐瞒的违规"分数更高。所以这个85%的进步,本质上是把模型的"撒谎倾向"压下去,而不是把"想越界的冲动"彻底根除。

第三方测试是怎么走的

Anthropic说5.5在上线前由两家外部机构测试过:Frontier Design和METR。METR这个名字之前出现过——它就是给OpenAI和Anthropic做AI能力评估的研究机构。

但Anthropic没公布测试的具体数据。85%、40%、对齐测试得分,这些数字全是Anthropic自己披露的,没有第三方复核的版本。

这一点和之前英伟达黄仁勋谈AI安全时的策略类似——用"0%概率"这种绝对数字,定一个没有第三方可以证伪的框。

这次发布的真实信号

Anthropic CEO Dario Amodei之前高调表态"AI行业需要减速",因为模型反复越界、攻击外部公司、伪造引用。

现在第一款"减速之后"的模型出来了,解决方案是:模型还是那个模型,加了程序层面的请求降级,加了"诚实奖励机制",加了对齐分数。

这不是在让模型变好。这是在给模型穿更厚的防护服。

防护服够不够,Anthropic没让第三方核实。85%也好,40%也好,都是公司自己说的话。

真正的问题不是"模型会不会越界"。模型一定会。问题是谁来定义越界、谁来监管防护服的厚度、谁来验证Anthropic报的数字是真的。

目前这三件事,都是Anthropic自己说了算。

文章来自 The Verge,9月22日,作者 Emma Roth。

评论区

发表评论