从数据连接、索引构建到检索增强，支持 300+ 集成的 Python LLM 应用开发框架

原名 Awesome ChatGPT Prompts，支持 ChatGPT/Claude/Gemini/Llama 等，可自托管，含交互式 Prompt Engineering 教程和儿童版。

Datawhale 开源的系统性 LLM 学习教程，从 NLP 基础到动手搭建 LLaMA2，再到训练实践与 RAG/Agent 应用

无需量化/蒸馏/剪枝，在单张4GB GPU上运行70B大模型推理，支持Llama3.1 405B仅8GB VRAM

不只量化更是全链路：Dynamic v3.0动态精度+MTP投机解码+Flash Attention加速，llama.cpp/Ollama一键起

从零手搓的C++/CUDA推理引擎，只认RTX 5090一张卡：Qwen3.8-27B八路并发767 tok/s、AIME双96.7%不掉点，240K上下文还能看图看视频，5090党的天花板玩法。

检测你的机器能否本地运行各种 AI 大模型

比 Ollama 快 4.2 倍，17 种工具调用解析器，0.08 秒首字延迟，完整兼容 OpenAI API

antirez新作：DeepSeek V4 Flash的Metal/CUDA原生推理引擎，2-bit量化128GB Mac跑百万token上下文

桌面端AI Agent管理器，一键安装Claude Code、OpenClaw、Hermes等，统一管理模型配置，一键部署本地LLM

OpenBMB超轻量多模态模型，SigLIP2+Qwen3.5-0.8B，AI Index 13分，三端手机部署

内置Ubuntu 24、40+工具、本地模型、MCP生态，Android上的Hermes平替

十几个去审查版里口碑最干净的一版，MLX 786赞/FP8 715赞双第一，红队探针0拒绝且不变笨；附 JonathanColetti/OBLITERATUS/huihui 等6家横评

学术派量化天花板：每个张量单独分配精度，同体积比Unsloth高10分，论文代码全公开可自己复刻

macOS/Windows/Linux 开源 GUI 自动化代理，OSWorld 60% 成功率，支持 OpenClaw

AI Agent 持续霸榜：Anthropic 金融方案、DeepSeek 终端代理、隐身浏览器、全自动AI交易系统等 9 个热门项目一览

LongMemEval 榜单 SOTA（第三方复现背书）——仿生记忆结构：事实/经历/信念/心智模型四层，Docker 一条命令自部署，25+ LLM 提供商含全本地方案

如何拥有一个自己的智能体 本文只讨论能调用工具、自主执行的智能体（Agent），不讨论纯对话机器人。 按照难度从低到高分为三层。 --- 第一层：大厂云端智能体（开箱即用，零安装） 这一层是各大厂已经搭建好、部署在云端的智能体产品。你不需要安装任何软件，注册账号就能用。 基于 OpenClaw 的云端产品 OpenClaw（龙虾）是一个开源的自主 AI 助手框架，GitHub 地址 。国内外大厂基

发布3天下载破150万！54GB的Qwen3.8-27B压到5.9GB还留98.2%智力，传统2bit崩掉的数学题它守住95分，低比特本地部署天花板。

开源文档解析引擎,OpenDataLab 出品 78k Star。PDF/Word/PPT/Excel/图片一键转 LLM 友好的 Markdown/JSON,公式转 LaTeX、表格转 HTML、跨页表格合并、109 语言 OCR;Pipeline 后端纯 CPU 可跑,VLM 后端精度 95+,另有 mineru.net 在线服务免部署