在本地运行 Qwen3.8 27B:来自我的 Mac Studio 的实际数据

资讯1个月前更新 sam
27 0

Qwen3.8 27B(27.3B 参数,混合注意力架构,262,144 token 上下文窗口,Apache 2.0 开源)在 Mac Studio M3 Ultra 上经 Ollama 以 Q4_K_M 量化(17GB)生成速度约 14 tokens/s。

来源:Hacker News 热门(buzzing.cc 中文翻译) | 阅读原文

© 版权声明

相关文章

暂无评论

none
暂无评论...