antirez/ds4
DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm
深度介绍
它是什么
ds4 是 Redis 作者 antirez 推出的 DeepSeek 4 本地推理引擎，用纯 C 编写，支持 Metal、CUDA 和 ROCm 三大后端，覆盖 Apple Silicon、NVIDIA 和 AMD 显卡。
核心亮点
一份代码同时打通三种主流 GPU 加速框架，无需 Python 运行时依赖，编译即用。针对 DeepSeek 4 Flash 与 PRO 两个版本做了算子级优化，显存占用和推理延迟都压到了工程极限。
为什么火
antirez 的号召力加上“本地跑 DeepSeek 4”的刚需，让项目一天涨星 200+。C 语言实现意味着极低的部署门槛，树莓派到工作站都能编译，这是 PyTorch 生态难以比拟的。
适合谁用
想在本地私有化部署 DeepSeek 4 的开发者、需要低延迟推理的边缘计算场景，以及厌倦了 Python 环境依赖的 C/C++ 工程师。
快速上手
克隆仓库后按 README 选择对应后端编译，下载模型权重即可运行。MIT 协议，商用无顾虑。