跳到正文
Simon Willison·· 4 小时前AI 评分15

llm-echo 0.5 发布:模拟 token 用量计入工具调用、系统提示词与推理 token

llm-echo 0.5

AI 导读

Simon Willison 发布 llm-echo 0.5,这个调试插件提供一个不涉及 LLM、只回显提示词的 "model",新版本更新了模拟 token 用量统计,将工具调用、系统提示词和推理 token 纳入计算。示例中 `llm -m echo 'hi there' -o thinking 1 --usage` 输出显示 2 input、24 output token。

来源:Simon Willison · simonwillison.net

木叶资讯微信公众号二维码

关注公众号,每天收到精选与决策卡

长按识别二维码