BlackHalo logo
Published on

Qwen 3.8 27B 模型发布:FP8 量化与全新聊天模板

Authors
  • Name
    erdaltoprak
    huggingface.co
Qwen 3.8 27B 模型架构示意图
头图来源: 来源页面

模型发布与核心特性

阿里云通义千问团队在 Hugging Face 上发布了 Qwen 3.8 27B 模型,这是一个采用 FP8 量化技术的大语言模型。该模型拥有 270 亿参数,通过 FP8 精度存储,显著降低了模型对 GPU 显存的需求,使得在消费级硬件上运行大规模模型成为可能。

聊天模板与多模态支持

Qwen 3.8 27B 引入了全新的聊天模板,该模板使用 Jinja 语言编写,提供了丰富的功能。模板支持图像和视频输入,通过 <|vision_start|><|vision_end|> 标记来嵌入视觉内容。系统消息中不能包含图像或视频,这保证了对话结构的清晰。

推理努力程度调节

模板中实现了可调节的推理努力程度(reasoning effort)功能,支持三个级别:

  • xhigh(默认):要求模型仔细思考任务,验证关键假设,考虑合理的替代方案,优先保证最终答案的正确性、一致性和清晰度。
  • medium:中等程度的推理努力。
  • low:要求模型保持思考简短和专注,直接得出结论,不做不必要的阐述。

工具调用与函数调用格式

该模型支持工具调用功能,开发者可以在系统消息中定义可用的函数。函数调用必须遵循严格的 XML 格式:

  • 使用 <tool_call> 标签包裹整个调用
  • 内部使用 <function=函数名> 标签指定函数
  • 参数使用 <parameter=参数名> 标签包裹
  • 所有必需的参数都必须指定

多轮对话与工具响应处理

聊天模板智能处理多轮工具调用场景。它会自动检测用户消息中是否包含工具响应(以 <tool_response> 标签包裹),并据此调整对话流程。如果所有用户消息都是工具响应,模板会抛出异常,确保对话结构的正确性。

技术细节与部署

模型使用 <|im_start|><|im_end|> 作为对话标记,<|endoftext|> 作为填充标记。开发者可以通过调整 enable_thinking 参数来控制是否启用思考过程,通过 reasoning_effort 参数调节推理深度。这些设计使得模型在保持高性能的同时,提供了灵活的部署选项。

开源与社区影响

作为开源模型,Qwen 3.8 27B 的发布对 AI 社区具有重要意义。FP8 量化技术降低了大型模型的部署门槛,使得更多开发者和研究者能够在有限的计算资源下使用先进的 AI 能力。该模型在 Hugging Face 上获得了广泛关注,展示了开源 AI 生态系统的活力。

原标题:Qwen 3.8 27B。 HN 原始发布时间:2026年8月14日星期五。当前记录为 930 分、607 条评论。

阅读原文 · 查看 HN 讨论