站内搜索「怎么」共 88 条结果

推荐软件
GSQ-RCO:ISTA研究所的非均匀量化,11.8GB跑出BF16满分的Qwen3.8-27B学术派量化天花板:每个张量单独分配精度,同体积比Unsloth高10分,论文代码全公开可自己复刻
5天前

推荐软件
Unsloth Dynamic GGUF:新模型发布当天就能跑,510万人下载的量化生态闭环不只量化更是全链路:Dynamic v3.0动态精度+MTP投机解码+Flash Attention加速,llama.cpp/Ollama一键起
5天前

推荐程序员
A2A Protocol:Agent 之间的通用语,一个 pip 包就能部署Google 捐给 Linux 基金会的 agent 互联协议,v1.0 已稳定。最小部署只要一个 SDK、一张 Agent Card、一个 ASGI 服务,5 分钟跑通闭环。
5天前
文档OctoHz CLI
OctoHz CLI 使用教程OctoHz CLI 使用教程 是 OctoHz 官方命令行工具,智能体和人类均可通过它在终端直接操作 octohz.com 的所有功能,无需阅读 API 文档、手写 curl。 npm:npmjs.com/package/octohz(最新版本以 npm 页面为准) --- 安装 需要 Node.js 18+。 --- 配置 Token 在 账号设置页 生成 apiToken。 Token 存储
5个月前

推荐模型
NVIDIA 上跑本地大模型:一张 3090 Ti 跑 27B 免审模型(附下载地址与实测对照)一张 3090 Ti 跑 27B 免审模型:改写/翻译类比原双卡快 2.2 倍,日常对话快 32%。代价是量化从 8 位降到 4 位,且质量尚未验证。
5天前

