Qwen3.6-27B - ≤130B开源最强本地大模型

Qwen3.6-27B - ≤130B开源最强本地大模型


27B稠密多模态,SWE-bench 77.2碾压同级,Apple Silicon最优甜点,Apache 2.0商用免费

Qwen3.6-27B 是阿里通义千问团队最新发布的 27B 稠密多模态大模型,MLX 版由社区转换,可在 Apple Silicon(M系列 Mac)上本地部署运行,bf16 精度约占用 51GB 内存。

为什么它是最强的

在 130B 以内的开源模型中,Qwen3.6-27B 在 agentic coding(编程/工具调用)赛道全面领先:

模型规模SWE-bench VerifiedSWE-bench Pro
Qwen3.6-27B27B 稠密77.253.5
Ornith-1.0-35B35B MoE75.650.4
Qwen3.6-35B-A3B35B MoE76.449.5
Qwen3.5-35B35B73.444.6
Gemma4-31B31B52.035.7
  • 官方跑分超过自家 397B MoE 旗舰(77.2 vs 76.2)
  • Terminal-Bench 追平 Claude 4.5 Opus
  • NVIDIA 专门为其发布官方 NVFP4 量化版
  • HuggingFace 原版 486 万下载,霸占 trending 榜

核心特性

  • 多模态:支持图文输入(image-text-to-text),不仅是语言模型
  • 128K 上下文:长文档处理无压力
  • Apache 2.0 许可:商用免费
  • Apple Silicon 原生:MLX 框架优化,M3 Ultra 可 bf16 全精度运行

硬件需求

量化精度内存占用推荐 Mac
bf16(全精度)~51GB64GB+ Mac
8bit~27GB32GB+ Mac
4bit~14GB16GB+ Mac

256GB Mac 可 bf16 运行,剩余 200GB+ 内存可同时跑其他服务(视频生成、TTS 等),是目前 Apple Silicon 本地部署的最优甜点配置。

MLX 版安装运行

pip install mlx-lm
python -m mlx_lm.generate \
  --model mlx-community/Qwen3.6-27B-bf16 \
  --max-tokens 4096

模型下载

16600举报0Xiao.Xi1个月前
点击获取 ^_^
被收录:

暂无评论