跳到正文
Hugging Face Blog·· 4 小时前AI 评分58

VocabX 如何通过词表专门化将小模型推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

AI 导读

Dharma-AI 预告即将发布的 VocabX 论文,提出按 token 成本而非出现频率重建领域模型词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上将实测推理成本降低 77.0%,平均回复从 350 个 token 降至 101 个,bench 分数从 0.703 升至 0.810。

来源:Hugging Face Blog · huggingface.co

木叶资讯微信公众号二维码

关注公众号,每天收到精选与决策卡

长按识别二维码