微软删除官方推理代码后，社区补上的完整 MLX 实现。支持 1.5B/7B 语音合成、零样本语音克隆、量化加速。

微软删除官方 TTS 推理代码后，社区 fork 保留的 PyTorch 完整实现。支持单卡/多卡推理、语音克隆、Gradio Demo。

CVPR 2025 Highlight，通过智能缓存跳过冗余时间步，无需重训模型即可大幅加速扩散模型推理。支持Wan2.1/FLUX/HunyuanVideo等20+主流模型

Agent记忆不是存文本块做匹配，而是从对话中提取结论，持续理解用户和Agent。支持MCP集成Claude Code/OpenCode/Hermes等，托管或自托管。

轻量级块扩散模型，专为 LLM Speculative Decoding 设计，支持 vLLM/SGLang/MLX，已适配 20+ 主流大模型

antirez新作：DeepSeek V4 Flash的Metal/CUDA原生推理引擎，2-bit量化128GB Mac跑百万token上下文

无需量化/蒸馏/剪枝，在单张4GB GPU上运行70B大模型推理，支持Llama3.1 405B仅8GB VRAM

评估大语言模型在八字和紫微斗数方面的推理能力，160道全球算命师大赛真题，支持 GPT/Claude/Gemini/DeepSeek 等主流模型

1000+图像视频音频3D模型一行API调用，自研推理引擎比竞品快10倍，H100低至$1.2/小时，SOC2企业合规

在终端中运行的 DeepSeek 编码代理，支持自动模式、流式推理、子代理与 MCP 协议

基于 LLM 的自动化金融研究 Agent，支持多源数据聚合、深度推理与投资决策

音频驱动数字人视频生成，照片+语音生成对口型视频，支持唱歌/双人对话/动漫动物，8步推理，MIT协议可商用

5秒样本零样本TTS，1分钟数据微调即可克隆声音。支持中英日韩粤跨语言推理，集成WebUI工具链，58k Stars

Google 官方出品的 Gemma 模型技能库，让 AI 编码助手自动掌握 Gemma 选型、部署、MTP 加速推理，支持 Vercel/Context7 CLI 一键安装

突破反爬封锁、人类无缝接管、多账号并行隔离，专为LLM推理设计的浏览器操控工具

Sakana AI 推出的多智能体编排系统，用AI学出来的协作方式协调GPT/Claude/Gemini等顶级模型，一个API搞定复杂编程与推理任务

一个库在Apple Silicon上原生跑LTX-2.3和Wan2.2两大视频模型，纯MLX加速，CLI一行出片，比PyTorch MPS快1.7倍

比 Ollama 快 4.2 倍，17 种工具调用解析器，0.08 秒首字延迟，完整兼容 OpenAI API

如何把deepseek-R1微调/蒸馏为某领域的一个专家？

讯飞开放的大模型一站式服务平台，聚合科大讯飞、阿里、深度追求、智谱、Kimi 等62+模型