跳到正文
The Verge · AI· Antonio G. Di Benedetto·· 4 小时前AI 评分22

在本地跑 AI 模型是种什么体验:兴奋、不知所措又令人沮丧

Learning to use local AI is exciting, overwhelming, and frustrating

AI 导读

The Verge 编辑在 M5 Ultra Mac Studio(256GB 统一内存)上安装开源 Hermes Agent,选用 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型,通过 Telegram bot 远程控制。他用它生成每日简报、按类型整理 400 多款 Steam 游戏、分析财务记录并制作笔记本规格对比表,目前正尝试自动化笔记本跑分测试。

来源:The Verge · AI · theverge.com