- Published on
Qwen 3.6 27B:本地开发最佳选择
- Authors
- Name
- stared
- quesma.com

简介
Qwen 3.6 27B 是目前本地开发中最具性价比的大语言模型。它提供了混合专家(35B A3B)和密集(27B)两个版本,其中 27B 版本虽然较慢但更强大,被作者强烈推荐。该模型在 Hacker News 上获得广泛好评,被认为“超出其体量”的表现。
测试与表现
创意写作
作者使用约束写作和诗歌创作作为测试。Qwen 3.6 27B 能够生成关于量子物理和舞蹈的八行诗,思维过程清晰,押韵合理。此外,它还能完成“企鹅骑自行车”这样的烟雾测试。
代码生成
在 OpenCode 中,通过单个提示成功生成了一个六边形扫雷游戏,并自动创建了 Node 包(pnpm)。而混合专家模型虽然更快,但忽略了创建包的指令,仅生成了单文件 HTML。
实际任务
另一个测试是生成一个登录页面。Qwen 3.6 27B 仅用几分钟就从简短提示完成了响应式页面,默认样式美观,可直接使用。
本地部署指南
使用 llama.cpp
推荐直接使用 llama.cpp,而非 Ollama(有伦理争议)。从 Hugging Face 下载量化模型,8-bit 量化几乎不损失质量且减半体积。
启动命令示例:
llama-server -hf unsloth/Qwen3.6-27B-MTP-GGUF:Q8_0 \
--spec-type draft-mtp -ngl 999 -fa on -c 65536 --port 8080
集成到 OpenCode
在 OpenCode 配置文件中添加本地模型,即可使用 Qwen 3.6 27B 进行 vibe coding。
性能测试
在 Macbook Max M5 128GB 上测试结果:
- Qwen 3.6 27B (8-bit) + MTP: 32 tok/s,RAM 42 GB
- 混合专家版:93-105 tok/s,但质量较低
- DeepSeek V4 Flash (Q2-Q4): 33 tok/s,RAM 103 GB
30 tok/s 已接近前沿模型 API 速度。在 Nvidia RTX 5090 上使用 Q6_K 量化,可达 50 tok/s。
基准对比
| 模型 | 评分 | 对应前沿模型 |
|---|---|---|
| Gemma 4 31B | 29 | 2024年底 o1/Claude 3.5 Sonnet |
| Qwen 3.6 35B A3B | 32 | 2025年初 o3/Claude 4 Sonnet |
| Qwen 3.6 27B | 37 | 2025年中 GPT-5/Claude Sonnet 4.5 |
| DeepSeek V4 Flash | 40 | 2025年底 GPT-5.2/Claude Opus 4.5 |
注意量化版本可能影响结果,但个人体验中 Qwen 3.6 27B 与 DeepSeek V4 Flash 相当甚至略优。
未来展望
本地模型时代正在到来。前沿模型如 Claude Fable 5 被下架,闭源模型依赖补贴。本地模型可微调、不可被撤销,适合敏感数据。随着 GLM 5.2 等开放权重模型发布,未来可能将智能与知识分离,实现更高效的本地运行。
原标题:Qwen 3.6 27B is the sweet spot for local development。 HN 原始发布时间:2026年6月30日星期二。当前记录为 1147 分、715 条评论。