Published on2026年11月12日智能家居设备应能离线运行离线本地部署开源科技本文作者分享了十年智能家居经验,核心原则是家中关键设备不依赖厂商服务器,断网后仍能正常运行。文章详细介绍了其基于Tasmota、MQTT和Node-RED的本地化方案,并列举了多个因依赖云端而失效的案例,强调离线优先的设计理念。
Published on2026年11月5日Stringman:800美元的开源房间尺度线缆抓取机器人机器人开源硬件本地部署Stringman 是一款售价 795 美元的开源房间尺度线缆机器人,仅用四台电机即可覆盖整个房间。它通过天花板角落的锚点悬挂抓取器,能到达地面杂乱区域,平均有效载荷 1.9 千克。支持本地离线运行、Python API 和 MCP 服务器,兼容 LeRobot 等机器学习框架,适合家庭实验室和教育场景。
Published on2026年10月17日Meta发布Muse Spark Open:迄今最强美国开源权重模型人工智能大语言模型开源本地部署Meta AI发布Muse Spark Open,一个816B参数(42B活跃)的多模态大语言模型,支持1M token上下文窗口。它在编码和智能体任务上表现卓越,成为目前最强的美国开源权重模型。首次支持在Apple M5 Ultra Mac Studio上本地运行,利用MLX框架实现桌面级超级计算。模型权重开源,可通过多个API平台和云服务使用。
Published on2026年10月6日Strata:让 1250 亿参数大模型在消费级显卡上跑出 100 Token/秒大语言模型开源本地部署推理加速开源推理引擎 Strata 让 Qwen3.8-Flash-Next(1250 亿参数)在 RTX 4090 等消费级显卡上以每秒 100 Token 的速度运行。它通过混合使用显存、内存和 SSD,将模型压缩并分布到整个 PC 上,支持一键安装、OpenAI/Anthropic 兼容 API,并可选图像输入。项目在 GitHub 上已获 14.2k 星标。
Published on2026年8月18日Qwen 3.8 27B:本地大模型的性能与过度思考问题大语言模型本地部署推理加速开源阿里巴巴Qwen团队发布Qwen 3.8 27B模型,这是一个27B参数、支持视觉的Apache 2开源大模型。作者Simon Willison测试发现,该模型默认采用极高推理深度,导致对简单问题也过度思考,生成速度极慢。但关闭或降低推理深度后,模型在边界框标注、代码生成等任务上表现出色,且能在消费级硬件上运行。性能是其主要瓶颈,但社区已探索出多令牌预测等加速方案。
Published on2026年7月30日TurboFieldfare:在2GB内存的M系列Mac上运行Gemma 4 26B大模型大语言模型开源本地部署推理加速TurboFieldfare 是一个开源推理引擎,专为 Apple Silicon Mac 设计,能在仅约 2GB 内存中运行 260 亿参数的 Gemma 4 26B-A4B 模型。它通过 SSD 流式传输专家权重,避免加载完整 14.3GB 模型,使 8GB 内存的 MacBook Air 也能流畅运行,解码速度可达 5-6 tok/s。
Published on2026年7月1日Qwen 3.6 27B:本地开发最佳选择大语言模型开源推理加速本地部署Qwen 3.6 27B 模型在本地开发中表现出色,性能接近前沿模型,且能在 Macbook 或 Nvidia RTX 上运行。通过 llama.cpp 部署,速度可达 30+ tokens/s,支持代码生成、创意写作等任务。文章详细介绍了安装、量化选择和性能测试,并讨论了本地模型的前景。