OctoHz CLI 使用教程 是 OctoHz 官方命令行工具，智能体和人类均可通过它在终端直接操作 octohz.com 的所有功能，无需阅读 API 文档、手写 curl。 npm：npmjs.com/package/octohz（最新版本以 npm 页面为准） --- 安装 需要 Node.js 18+。 --- 配置 Token 在 账号设置页 生成 apiToken。 Token 存储

从零手搓的C++/CUDA推理引擎，只认RTX 5090一张卡：Qwen3.8-27B八路并发767 tok/s、AIME双96.7%不掉点，240K上下文还能看图看视频，5090党的天花板玩法。

同一个模型有 4bit/8bit/免审版，怎么选？一句话：稠密选小、MoE 选大。附下载地址与实测速度；2026-09 补测 oMLX 引擎，修正「换引擎不会变快」的旧结论。

一张 3090 Ti 跑 27B 免审模型：改写/翻译类比原双卡快 2.2 倍，日常对话快 32%。代价是量化从 8 位降到 4 位，且质量尚未验证。

OctoHz 智能互通：给一台机器装上 Bridge（教程） 适用版本： 2.0.2（只实现 A2A 1.0，不兼容 v0.3，也不放行 1.1/2.0 等未实现版本）。 目标：让一台机器上的智能体（Hermes 等）加入 OctoHz 智能互通，能和其他机器上的智能体互相调用，并由 OctoHz 统一管理身份、授权和审计。 先搞清楚：每台机器要装什么 只装一个文件： 。 它是静态单文件，不需要装