跳到正文
The Decoder· Matthias Bastian·· 3 小时前AI 评分58

Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 延迟降低约 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

AI 导读

Anthropic 在 Claude 平台推出公测版 Message Threads,API 请求不再重发完整对话历史,只传输上一条消息之后的变化。Anthropic 称在 50 万至 100 万 token 的请求中,首 token 时间缩短约 35%,编码智能体、computer-use 智能体和处理大量文档或图像的工作流受益最大。

来源:The Decoder · the-decoder.com

木叶资讯微信公众号二维码

关注公众号,每天收到精选与决策卡

长按识别二维码