BlackHalo logo
Published on

Qwen 3.6 27B:本地开发最佳选择

Authors
  • Name
    stared
    quesma.com
Qwen 3.6 27B 本地部署示意图
头图来源: 来源页面

简介

Qwen 3.6 27B 是目前本地开发中最具性价比的大语言模型。它提供了混合专家(35B A3B)和密集(27B)两个版本,其中 27B 版本虽然较慢但更强大,被作者强烈推荐。该模型在 Hacker News 上获得广泛好评,被认为“超出其体量”的表现。

测试与表现

创意写作

作者使用约束写作和诗歌创作作为测试。Qwen 3.6 27B 能够生成关于量子物理和舞蹈的八行诗,思维过程清晰,押韵合理。此外,它还能完成“企鹅骑自行车”这样的烟雾测试。

代码生成

在 OpenCode 中,通过单个提示成功生成了一个六边形扫雷游戏,并自动创建了 Node 包(pnpm)。而混合专家模型虽然更快,但忽略了创建包的指令,仅生成了单文件 HTML。

实际任务

另一个测试是生成一个登录页面。Qwen 3.6 27B 仅用几分钟就从简短提示完成了响应式页面,默认样式美观,可直接使用。

本地部署指南

使用 llama.cpp

推荐直接使用 llama.cpp,而非 Ollama(有伦理争议)。从 Hugging Face 下载量化模型,8-bit 量化几乎不损失质量且减半体积。

启动命令示例:

llama-server -hf unsloth/Qwen3.6-27B-MTP-GGUF:Q8_0 \
  --spec-type draft-mtp -ngl 999 -fa on -c 65536 --port 8080

集成到 OpenCode

在 OpenCode 配置文件中添加本地模型,即可使用 Qwen 3.6 27B 进行 vibe coding。

性能测试

在 Macbook Max M5 128GB 上测试结果:

  • Qwen 3.6 27B (8-bit) + MTP: 32 tok/s,RAM 42 GB
  • 混合专家版:93-105 tok/s,但质量较低
  • DeepSeek V4 Flash (Q2-Q4): 33 tok/s,RAM 103 GB

30 tok/s 已接近前沿模型 API 速度。在 Nvidia RTX 5090 上使用 Q6_K 量化,可达 50 tok/s。

基准对比

模型评分对应前沿模型
Gemma 4 31B292024年底 o1/Claude 3.5 Sonnet
Qwen 3.6 35B A3B322025年初 o3/Claude 4 Sonnet
Qwen 3.6 27B372025年中 GPT-5/Claude Sonnet 4.5
DeepSeek V4 Flash402025年底 GPT-5.2/Claude Opus 4.5

注意量化版本可能影响结果,但个人体验中 Qwen 3.6 27B 与 DeepSeek V4 Flash 相当甚至略优。

未来展望

本地模型时代正在到来。前沿模型如 Claude Fable 5 被下架,闭源模型依赖补贴。本地模型可微调、不可被撤销,适合敏感数据。随着 GLM 5.2 等开放权重模型发布,未来可能将智能与知识分离,实现更高效的本地运行。

原标题:Qwen 3.6 27B is the sweet spot for local development。 HN 原始发布时间:2026年6月30日星期二。当前记录为 1147 分、715 条评论。

阅读原文 · 查看 HN 讨论