站内搜索GB」共 5 条结果
GBrain - YC CEO 的 AI 代理知识库系统
Garry Tan 开源的 AI 代理长期记忆系统,支持 10000+ Markdown 文件的混合搜索
71000Xiao.XiXiao.Xi2个月前
点击获取 ^_^
AirLLM - 单卡4GB GPU跑70B大模型推理的内存优化框架
无需量化/蒸馏/剪枝,在单张4GB GPU上运行70B大模型推理,支持Llama3.1 405B仅8GB VRAM
72000Xiao.XiXiao.Xi1个月前
点击获取 ^_^
DwarfStar 4 — DeepSeek V4 Flash 本地推理引擎
antirez新作:DeepSeek V4 Flash的Metal/CUDA原生推理引擎,2-bit量化128GB Mac跑百万token上下文
83000Xiao.XiXiao.Xi1个月前
点击获取 ^_^
Qwen3-VL-8B - 阿里中英OCR+视觉理解王者
32语言OCR、256K上下文、视觉Agent可操作GUI,MLX版5GB秒回看图
7000Xiao.XiXiao.Xi8天前
点击获取 ^_^
Rapid-MLX - 专为 Apple Silicon 打造的极速本地 AI 引擎
比 Ollama 快 4.2 倍,17 种工具调用解析器,0.08 秒首字延迟,完整兼容 OpenAI API
96000Xiao.XiXiao.Xi1个月前
点击获取 ^_^