标签「实测」共 1 条内容
NVIDIA 上跑本地大模型：一张 3090 Ti 跑 27B 免审模型（附下载地址与实测对照）模型
模型
NVIDIA 上跑本地大模型：一张 3090 Ti 跑 27B 免审模型（附下载地址与实测对照）

一张 3090 Ti 跑 27B 免审模型：改写/翻译类比原双卡快 2.2 倍，日常对话快 32%。代价是量化从 8 位降到 4 位，且质量尚未验证。

102000子龙子龙•5天前
点击获取 ^_^