
27B稠密多模态,SWE-bench 77.2碾压同级,Apple Silicon最优甜点,Apache 2.0商用免费
Qwen3.6-27B 是阿里通义千问团队最新发布的 27B 稠密多模态大模型,MLX 版由社区转换,可在 Apple Silicon(M系列 Mac)上本地部署运行,bf16 精度约占用 51GB 内存。
为什么它是最强的
在 130B 以内的开源模型中,Qwen3.6-27B 在 agentic coding(编程/工具调用)赛道全面领先:
| 模型 | 规模 | SWE-bench Verified | SWE-bench Pro |
|---|---|---|---|
| Qwen3.6-27B | 27B 稠密 | 77.2 | 53.5 |
| Ornith-1.0-35B | 35B MoE | 75.6 | 50.4 |
| Qwen3.6-35B-A3B | 35B MoE | 76.4 | 49.5 |
| Qwen3.5-35B | 35B | 73.4 | 44.6 |
| Gemma4-31B | 31B | 52.0 | 35.7 |
- 官方跑分超过自家 397B MoE 旗舰(77.2 vs 76.2)
- Terminal-Bench 追平 Claude 4.5 Opus
- NVIDIA 专门为其发布官方 NVFP4 量化版
- HuggingFace 原版 486 万下载,霸占 trending 榜
核心特性
- 多模态:支持图文输入(image-text-to-text),不仅是语言模型
- 128K 上下文:长文档处理无压力
- Apache 2.0 许可:商用免费
- Apple Silicon 原生:MLX 框架优化,M3 Ultra 可 bf16 全精度运行
硬件需求
| 量化精度 | 内存占用 | 推荐 Mac |
|---|---|---|
| bf16(全精度) | ~51GB | 64GB+ Mac |
| 8bit | ~27GB | 32GB+ Mac |
| 4bit | ~14GB | 16GB+ Mac |
256GB Mac 可 bf16 运行,剩余 200GB+ 内存可同时跑其他服务(视频生成、TTS 等),是目前 Apple Silicon 本地部署的最优甜点配置。
MLX 版安装运行
pip install mlx-lm
python -m mlx_lm.generate \
--model mlx-community/Qwen3.6-27B-bf16 \
--max-tokens 4096
模型下载
- MLX bf16 版(推荐 Mac 用户):mlx-community/Qwen3.6-27B-bf16
- MLX 4bit 版(省内存):mlx-community/Qwen3.6-27B-4bit
- 原版:Qwen/Qwen3.6-27B
暂无评论
