AI宝库

AI宝库首页 › AI 资讯 › Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

来源:爱范儿 · 发布时间:10-30 · 由 AI宝库每小时自动聚合

据说是 Anthropic 的 AGI#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

Gemini 4 Carbon 王者归来没几天,这边 Fable 5.5 就被爆出来正在被测试。

有网友在使用 Opus 5.5 时表示会被路由到更新的模型,而且效果看起来要比当前的 Opus 好得多,不由得让人怀疑这是 Fable 5.5 或是下一代 Opus 模型。

结合前段时间 The Information 的爆料,有已经体验过 Anthropic 最新模型的知情人士提到,Anthropic 准备推出更能读懂用户意图的模型。

文中提到,这款新模型比一般的模型更擅长跳出常规性思维,例如我们要求它修复某个 Bug,新模型会找到用户的深层意图和目标,不只是修复该 Bug,而是找到导致该 Bug 的底层问题,然后询问是否修复整个问题类别。

而在 X 上网友分享出来的实测结果,要求 Opus 5.5 和 Gemini 4 Argon 和新模型一起完成 Three.js 测试,内容是生成奔跑的斑马。

可以看到,三匹马中只有 Fable 5.5 生成画面,看起来是最真实地在奔跑,Opus 5.5 和 Gemini 4 都给人一种「跑得特别累」的感觉。

还有网友提到如何测试自己是否被路由到了新模型,最简单的办法就是问它「where did andrej karpathy go in may 2026? don’t search」。

通过 API 调用的 Opus 5.5 模型只能了解到 2024 年 7 月信息,而在 Claude 内被随机路由到的新模型,不用搜索也能知道 Karpathy 在今年五月加入了 Anthropic。

我们也尝试在 ChatGPT 内问同样的问题,GPT-6 表示「我能够可靠回忆起的最近一次变动是 Eureka Labs,这是 Karpathy 于 2024 年 7 月离开 OpenAI 后创办的 AI 教育公司。」

虽然 GPT-6.1 Terra 和 Claude Opus 5.5 模型都写着知识截止日期来到了 2026 年 6 月,但是都没有准确回答出 Karpathy 在今年五月的去向。

更有意思的测试是,有网友发文说用 Fable 5.5 做了「一个控制器骑着自行车,自行车上有一只鹈鹕,鹈鹕骑着自行车,自行车上还有一只鹈鹕的 SVG。」

还有被 Claude Opus 5.5 随机路由到新模型的用户,让新模型用 JS 绘制了一段动画的每一帧,描述了一个人的一生,用时 2 小时,消耗 2700 万 Token。

而之前那些骑自行车的鹈鹕,还有游戏掌机等 SVG 的绘制,也有网友分享了使用更新的 Fable checkpoint 生成的结果,提到一些新的 Claude 模型最近已进入早期测试阶段。

请反思此对话的安全性

新模型估计很快就会发布,今天 Anthropic 官方分享的一篇安全博客却更有意思,里面提到自 Claude Fable 5 及之后发布的模型,每次我们和这些模型问答结束后,模型都会再检查一次对话是否危险。

自评估运行在 Fable 5 及之后发布的每个 Claude 模型上,签订零数据保留协议的流量目前不会运行自评估。

Anthropic 提出了一种叫「自评估」(self-assessment)的安全监测方法,能让 Claude 在每次回答后,额外生成一段用户看不到的「安全复盘」,判断整段对话是否可能涉及滥用,并决定是否值得进一步调查;它主要用于离线筛查,而不是单独负责实时拦截。

网友一看到自己每次和 AI 聊天的内容,都要再一次交给 AI 评价,大多数的评论都是「自封为道德警察,这本身就是一种滥用!」

Anthropic 则认为一边是越来越聪明的 AI 模型,另一边是越来越防不胜防的恶意越狱与灰产滥用。

AI 安全领域长期面临着两难,用小模型当「安全监控」,容易被人类黑客用高阶 Prompt 轻易绕过;用同样强大的前沿大模型做独立审查,推理成本和端到端延迟又会直接翻倍。

于是他们公开了这种极为优雅的工程与认知解法,自评估(Self-Assessment)。

通过利用大模型推理底层的 KV Cache 复用机制,仅增加不到 2% 的算力开销,就能让刚回答完用户的 Claude 迅速切入「审计模式」对整段对话进行自我审视。

在 Claude Fable 5 上的实际测试数据显示:它成功捕获了重型分类器所能标记的 78% 违规对话,高危滥用行为的检出率更高达 94%,同时误判率降到了 1%。

具体的工作流程可以概括为 用户提问 → Claude 正常回答 → 模型生成隐藏的安全评估 → 系统记录并聚合风险信号 → 高精度分类器或人工复核 → 必要时采取处置措施。

我们正常给 Fable 5 及其之后的新模型发送消息,Claude 像平时一样理解上下文并生成回答。自评估不会在回答前替模型进行「自我审查」,也不会直接决定这次回答能否发出;实时拦截仍由其他安全分类器负责。

回答结束后,系统在对话末尾追加一条我们看不到的指令,大意是:

请反思这段对话的安全性。

必要时,指令还可以加入当前会话的特殊政策。例如,某个安全团队获得授权研究特定软件的漏洞,系统可以告诉评估模型:针对这一目标的研究属于允许范围。

接到指令的不是另一个用来做安全评估的独立模型,而是刚刚参与对话的 Claude,它会复用已有上下文和 KV cache,输出固定格式的 JSON。

没有发现风险时,结果就是 “flagged”: false;如果模型认为对话存在潜在风险,则会输出类似下面的结果。

因此,无论是输入还是输出,所消耗的算力都会比之前单独评估要少很多。一方面是 Prefill 开销几乎为 0,只需要处理那条十几 Token 的审计提示词。另一方面用于输出的 Decode 开销微乎其微,模型只需要生成约 10 个 Token 的 JSON 格式文件。

在万级别甚至更长上下文的交互中,这 10 个 Token 的解码计算量占总推理算力的比例低于 2%。Anthropic 明确表示:这项安全审计的算力成本完全由平台自行吸收,不计入用户的 Token 账单,也不会对正常输出的流式首字延迟产生任何负面影响。

用于反思的指令和评估结果都不会展示给用户,也不会被带入后续对话。因此,下一轮聊天不会接着讨论这份「安全报告,评估结果会按照相应的数据政策记录。

最后,系统会对大量评估结果进行聚合分析,单条评估不会直接被视为违规定论。Anthropic 主要把结果用于三类分析:

- 聚合高风险信号:按组织汇总标记,出现多个高优先级信号时,升级给安全团队进行人工复核。

- 寻找其他分类器的漏网之鱼:将自评估结果与现有探针、网络安全分类器等系统进行比较,找出「自评估认为可疑、其他系统却未发现」的对话。

- 发现新型风险:对无法归入现有风险体系的标记进行聚类,寻找提示注入、模型能力提取、未经授权的智能体操作等新现象。

对于值得深入调查的案例,Anthropic 可以使用读取完整安全政策的独立提示分类器进一步分析,再由人工团队判断。

确认存在严重问题后,才可能采取账户封禁、向相关机构报告等措施。

对于 Anthropic 来说,这显然是一笔划算的账。模型越来越强,安全防线也可以跟着升级,而且用户几乎感受不到。

但对于用户来说,即便一次风险标记不会直接导致封号,它仍然可能成为后续调查的线索。Claude 的用户也不知道自己有没有被标记,也看不到模型给出的判断,更无从知道哪些正常的讨论可能被误解。

尤其是当下一代 Claude,像是 Fable 5.5 已经开始尝试理解用户没有明说的深层意图,它对用户意图的判断也需要更加谨慎。

至于传闻中的 Fable 5.5 究竟能带来多大的提升,还得等正式发布才能知道。

Gemini 4 Carbon 才刚刚登场,下一轮旗舰模型的较量,看来很快又要热闹起来了。

本文由 AI宝库自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(ifanr.com)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI宝库首页 · 提交工具 · 商务合作 · 关于本站 · 599 款 AI 工具分类导航 · 每日 AI 热门项目与动态