国际 AI 资讯

Claude API 新增 Beta 功能:对话中途可调节模型 effort 档位

Anthropic 于 11 月 12 日为 Claude API 推出 Beta 能力,允许开发者在同一段对话中随时调整模型回答问题的 effort 档位,以在回答充分度、响应速度与使用成本之间灵活权衡。

海宇数科 · 事件日期 · 约 2 分钟 · 3 次阅读

Claude API 新增 Beta 功能:对话中途可调节模型 effort 档位 配图
Claude API 新增 Beta 功能:对话中途可调节模型 effort 档位 配图

Anthropic 在 11 月 12 日给 Claude API 增加了一项 Beta 功能:开发者可以在消息流中随时调节 effort,即模型回答问题时愿意投入的“努力”程度,从而在回答充分度、响应速度和成本之间自主调节。同一段对话内可以前段轻松、后段发力,不必重新开始。

换挡不重开,缓存不掉线

此前一段会话只能使用一套固定参数。现在的做法是在消息序列中插入一条空白 system 消息,并通过新增的 output_config.effort 指定目标等级,顶层配置和已命中的提示缓存都会原样保留。需要注意,该调整不会回溯生效——它从下一条带新输入的用户消息开始起作用,已经生成的内容保持不变,因此插入位置和下一次提问的时机都需要准确安排。

从闲扯到硬核,一处分水岭

effort 影响的不仅是最终输出字数,还包括思考深度、调用工具的次数以及组织回答的投入程度。典型用法是:对话前半段进行轻量问答,切换到复杂分析时升高档位,模型便会自动加大投入。对长链路智能体尤其有利——前期检索用低档节省 Token,遇到真正需要推理的节点再升档,无需为整段对话提前承担高成本。当 AI 能够按需调节投入,算力和账单才真正掌握在开发者手中。

← 返回AI 资讯