BlackHalo logo

本地部署

  • Published on
    Qwen 3.6 27B 模型在本地开发中表现出色,性能接近前沿模型,且能在 Macbook 或 Nvidia RTX 上运行。通过 llama.cpp 部署,速度可达 30+ tokens/s,支持代码生成、创意写作等任务。文章详细介绍了安装、量化选择和性能测试,并讨论了本地模型的前景。

已加载全部