标签「GPU」共 3 条内容
optimizerDuck - 免费开源Windows优化神器软件
软件
optimizerDuck - 免费开源Windows优化神器

6大类30+优化项、GPU/隐私/服务/电源一键调、内置启动管理/磁盘清理/预装卸载，单exe运行无需安装

57000Xiao.XiXiao.Xi•2个月前
点击获取 ^_^
AirLLM - 单卡4GB GPU跑70B大模型推理的内存优化框架源码
源码
AirLLM - 单卡4GB GPU跑70B大模型推理的内存优化框架

无需量化/蒸馏/剪枝，在单张4GB GPU上运行70B大模型推理，支持Llama3.1 405B仅8GB VRAM

94000Xiao.XiXiao.Xi•3个月前
点击获取 ^_^
VibeVoice 社区版 - PyTorch/CUDA 多 GPU 推理完整代码教程
教程
VibeVoice 社区版 - PyTorch/CUDA 多 GPU 推理完整代码

微软删除官方 TTS 推理代码后，社区 fork 保留的 PyTorch 完整实现。支持单卡/多卡推理、语音克隆、Gradio Demo。

97000Xiao.XiXiao.Xi•3个月前
点击获取 ^_^