- Published on
Qwen 3.8 27B 模型发布:FP8 量化与全新聊天模板
- Authors
- Name
- erdaltoprak
- huggingface.co

模型发布与核心特性
阿里云通义千问团队在 Hugging Face 上发布了 Qwen 3.8 27B 模型,这是一个采用 FP8 量化技术的大语言模型。该模型拥有 270 亿参数,通过 FP8 精度存储,显著降低了模型对 GPU 显存的需求,使得在消费级硬件上运行大规模模型成为可能。
聊天模板与多模态支持
Qwen 3.8 27B 引入了全新的聊天模板,该模板使用 Jinja 语言编写,提供了丰富的功能。模板支持图像和视频输入,通过 <|vision_start|> 和 <|vision_end|> 标记来嵌入视觉内容。系统消息中不能包含图像或视频,这保证了对话结构的清晰。
推理努力程度调节
模板中实现了可调节的推理努力程度(reasoning effort)功能,支持三个级别:
- xhigh(默认):要求模型仔细思考任务,验证关键假设,考虑合理的替代方案,优先保证最终答案的正确性、一致性和清晰度。
- medium:中等程度的推理努力。
- low:要求模型保持思考简短和专注,直接得出结论,不做不必要的阐述。
工具调用与函数调用格式
该模型支持工具调用功能,开发者可以在系统消息中定义可用的函数。函数调用必须遵循严格的 XML 格式:
- 使用
<tool_call>标签包裹整个调用 - 内部使用
<function=函数名>标签指定函数 - 参数使用
<parameter=参数名>标签包裹 - 所有必需的参数都必须指定
多轮对话与工具响应处理
聊天模板智能处理多轮工具调用场景。它会自动检测用户消息中是否包含工具响应(以 <tool_response> 标签包裹),并据此调整对话流程。如果所有用户消息都是工具响应,模板会抛出异常,确保对话结构的正确性。
技术细节与部署
模型使用 <|im_start|> 和 <|im_end|> 作为对话标记,<|endoftext|> 作为填充标记。开发者可以通过调整 enable_thinking 参数来控制是否启用思考过程,通过 reasoning_effort 参数调节推理深度。这些设计使得模型在保持高性能的同时,提供了灵活的部署选项。
开源与社区影响
作为开源模型,Qwen 3.8 27B 的发布对 AI 社区具有重要意义。FP8 量化技术降低了大型模型的部署门槛,使得更多开发者和研究者能够在有限的计算资源下使用先进的 AI 能力。该模型在 Hugging Face 上获得了广泛关注,展示了开源 AI 生态系统的活力。
原标题:Qwen 3.8 27B。 HN 原始发布时间:2026年8月14日星期五。当前记录为 930 分、607 条评论。