标签「MLX」共 1 条内容
mlx-engine - LM Studio官方MLX推理引擎(多轮缓存+批量读图)MacOS

LM Studio跑MLX模型的官方引擎:多轮对话缓存命中秒回、同图追问只算一次视觉编码。99%的人不用装(LM Studio自带),自建MLX服务的值得抄它的缓存设计。

47000子龙子龙•7天前