
CVPR 2025 Highlight,通过智能缓存跳过冗余时间步,无需重训模型即可大幅加速扩散模型推理。支持Wan2.1/FLUX/HunyuanVideo等20+主流模型
TeaCache - 扩散模型推理加速神器(免训练缓存方案)
CVPR 2025 Highlight 论文实现,中科院 & 阿里巴巴联合出品。
核心原理
TeaCache(Timestep Embedding Aware Cache)通过分析扩散模型不同时间步(timestep)之间输出差异的波动规律,智能跳过冗余计算,实现无需重新训练即可大幅加速推理。
简单说:扩散模型推理时要跑很多步,但很多步的输出几乎一样。TeaCache 能精准识别哪些步可以缓存复用,直接跳过,推理速度翻倍起步。
支持的模型(覆盖面极广)
文生视频:
- Wan2.1、Cosmos、CogVideoX1.5、LTX-Video、Mochi、HunyuanVideo、CogVideoX、Open-Sora、Open-Sora-Plan、Latte
图生视频:
- Wan2.1、Cosmos、CogVideoX1.5、ConsisID
文生图:
- HiDream-I1、Lumina-Image-2.0、FLUX、Lumina-T2X
文生音频:
- TangoFlux
社区生态
- ComfyUI 多个插件已集成 TeaCache
- FramePack、FastVideo、EasyAnimate 等主流框架均支持
- DiffSynth Studio、SD.Next 引擎级支持
- 多 GPU 并行推理方案(Teacache-xDiT)
使用方式
git clone https://github.com/ali-vilab/TeaCache.git
cd TeaCache
# 按对应模型子目录的 README 操作
每个支持模型都有独立子目录和详细教程,开箱即用。
适用场景
- 本地跑视频生成模型太慢?TeaCache 直接提速
- ComfyUI 工作流优化?装插件就行
- 批量生成内容?速度提升立竿见影
- 不想重新训练模型?TeaCache 零训练成本接入
论文
- arXiv 2411.19108
- Apache 2.0 开源协议
暂无评论
