NVIDIA 上跑本地大模型:一张 3090 Ti 跑 27B 免审模型(附下载地址与实测对照)模型

一张 3090 Ti 跑 27B 免审模型:改写/翻译类比原双卡快 2.2 倍,日常对话快 32%。代价是量化从 8 位降到 4 位,且质量尚未验证。

101000子龙子龙•5天前
OpenHands - star最多的开源AI编程智能体(前身OpenDevin,自主干活的数字员工)程序员

开源界最能自己干活的AI程序员,8.8万star,issue丢给它就自己改代码跑测试,免费自托管!

46000子龙子龙•5天前
mlx-engine - LM Studio官方MLX推理引擎(多轮缓存+批量读图)MacOS

LM Studio跑MLX模型的官方引擎:多轮对话缓存命中秒回、同图追问只算一次视觉编码。99%的人不用装(LM Studio自带),自建MLX服务的值得抄它的缓存设计。

47000子龙子龙•7天前
Mac 上跑本地大模型:该选哪个版本、免审模型用哪个(附下载地址与实测速度)模型

同一个模型有 4bit/8bit/免审版,怎么选?一句话:稠密选小、MoE 选大。附下载地址与实测速度;2026-09 补测 oMLX 引擎,修正「换引擎不会变快」的旧结论。

154000子龙子龙•7天前
NInfer - 只认RTX 5090的Qwen3.8-27B极限推理引擎(从零手搓CUDA,单卡并发破千tok/s)程序员

从零手搓的C++/CUDA推理引擎,只认RTX 5090一张卡:Qwen3.8-27B八路并发767 tok/s、AIME双96.7%不掉点,240K上下文还能看图看视频,5090党的天花板玩法。

168000子龙子龙•8天前
Bonsai 2 27B - 54GB压到5.9GB还留98%智力的三值模型(Qwen3.8-27B官方压缩,笔记本能跑满血27B推理)模型

发布3天下载破150万!54GB的Qwen3.8-27B压到5.9GB还留98.2%智力,传统2bit崩掉的数学题它守住95分,低比特本地部署天花板。

37000子龙子龙•8天前
Hyper3D Rodin - 一张图生成生产级 3D 模型(千万面级 3D 大模型)模型

国产 3D 大模型的天花板:一张图几十秒出生产级 3D 模型,SIGGRAPH 最佳论文团队出品,先试再说

89000子龙子龙•13天前
5min-btc-polymarket - BTC五分钟动量交易开源技能(Polymarket自动套利)区块链

850星的OpenClaw技能,让AI助手自动交易Polymarket的BTC五分钟合约:到期前2分钟进场、只跟动量不预测、硬止损+dry-run空跑,风控比策略还认真。

80000子龙子龙•22天前
Google TimesFM 3.0 - 零样本时间序列预测基础模型模型

Google Research 时序预测模型:丢历史曲线直接出未来预测+置信区间,1.3GB 零样本免训练,注意非商用许可

107000子龙子龙•22天前
shuohao-skills - AI短剧制作skill集合(小说一键变大纲/角色/美术/剧本/分镜全流程)Skills

丢一本小说进去,出来直接能拍短剧的整套制作包?2700星的神仙skill库,Claude Code和codex都能跑

270000子龙子龙•24天前
Qwen3-Omni - 30B原生全模态,能看能听还能说模型

甩一段视频进去,画面内容、背景音乐、音效、对白全给你分析出来——阿里原生全模态模型,30B只激活3B,还能直接用语音回答你,Apache 2.0

148000子龙子龙•26天前
GPT-SoVITS - 1分钟数据训练高质量TTS模型模型

5秒样本零样本TTS,1分钟数据微调即可克隆声音。支持中英日韩粤跨语言推理,集成WebUI工具链,58k Stars

168001子龙子龙•4个月前
GPD Pocket 4:770g 掌上 Windows 电脑硬件

8.8寸 2.5K 144Hz,Ryzen AI 9 HX 370,770g 极致便携,模块化 RS-232/KVM/LTE,车载出差一台搞定

211000子龙子龙•28天前
LTX-2.5 - Lightricks 开源视频生成模型,22B 参数音视频同步模型

83 万下载的开源视频模型天花板——文生视频/图生视频/音视频同步/4K 20 秒,8GB 显存量化可跑

133101子龙子龙•1个月前
video-talkcraft - 口播稿+配音一键成片的 agent skill,78张动效配方卡Skills

字级配音同步、七层反PPT镜头系统、三重验收自动返工,把Claude Code/Codex变成口播视频动效工作室

144000子龙子龙•28天前
M5 Max 实测 Qwen3.8-27B MLX 4bit 并发扩展性:1→32 并行全数据硬件

64GB 统一内存本地跑 27B,252 次请求零报错。低并发看响应,高并发看总量,甜蜜区在 N≤4

105000子龙子龙•28天前
FLUX 3 - Black Forest Labs 多模态统一模型,图像视频音频一个架构模型

FLUX 1/2 团队新作:图像/视频/音频联合训练的世界模型,视频+原生音频最长 20 秒,Early Access 已开放

65000子龙子龙•1个月前
NuPhy Air65 V3:能天天背出门的全功能矮轴键盘硬件

31cm/450g 塞进电脑包,方向键一个不少;42gf黛粉轴打字如踩雪

119000子龙子龙•1个月前
三大开源 ASR 横评 - VibeVoice-ASR 7B vs Qwen3-ASR vs Whisper模型

Qwen3-ASR 效率碾压、VibeVoice 长音频分人无敌、Whisper 生态覆盖最广——三大 ASR 各守一象限,谁该装谁

135000子龙子龙•1个月前
Qwen开源模型全家桶选购指南(3.5/3.6/3.8全系列)模型

从0.8B到397B全覆盖,编程/视觉/推理/端侧一张表选对模型

261000子龙子龙•1个月前