Redis之父再出手：antirez开源ds4推理引擎，128GB Mac本地跑DeepSeek V4与GLM 5.3

GitHub上又出现了一个值得关注的本地推理项目：ds4（项目名DwarfStar），作者是大名鼎鼎的Salvatore Sanfilippo——也就是Redis的创造者antirez。这个项目瞄准一个朴素的目标：让消费级硬件也能流畅运行当前最优秀的一批开源大模型，包括DeepSeek V4 Flash、V4.1 Flash、V4 PRO，以及智谱GLM 5.2、GLM 5.3、GLM 5.3 Flash和阿里Qwen3.8 Flash Next等。

刻意"收窄"的推理引擎

与llama.cpp、Ollama这类通用推理框架不同，ds4是一个自包含且刻意收窄（deliberately narrow）的本地原生推理引擎。它明确宣称自己不是一个通用的GGUF runner：用户必须使用项目自己产出、且作为项目一部分的GGUF模型文件。

antirez的解释很有意思——这种"收窄"是特性而不是缺陷。模型加载、prompt渲染、工具调用、KV缓存状态、HTTP server、编程智能体，所有环节都是作为一个整体来构建和测试的。仓库里甚至包含GGUF量化、imatrix、质量和速度基准相关的工具与数据，形成一套完整的集成测试体系。对于追求"开箱即用且稳定"的本地部署用户来说，这种垂直整合反而省去了大量调参排错的功夫。

对上游生态，antirez也在README里大方致谢：这个项目没有llama.cpp和GGML就不可能存在，部分源码级的GGUF量化布局、CPU量化逻辑和内核在MIT许可下保留或适配，并在LICENSE文件中保留了GGML作者的版权声明。

硬件支持：从Mac到DGX Spark再到Strix Halo

ds4对三大硬件后端都有明确的目标机型：

  • Metal（主要目标）：Apple Silicon Mac，推荐96GB及以上内存；配置较小的机器可以通过SSD streaming以可接受的速度运行大模型，128GB系统跑完整的GLM 5.x非Flash版本同样靠SSD流式读取。
  • NVIDIA CUDA：主要目标是NVIDIA的DGX Spark，同时支持其他后端不覆盖的多卡场景，包括Ada Lovelace架构显卡（如L40S）。
  • ROCm：面向Strix Halo平台，例如Framework Desktop。

更有想象空间的是并行能力：两台128GB内存的Mac通过RDMA相连，就能对4-bit量化的DeepSeek Flash或GLM 5.3 Flash做张量并行；两台DGX Spark可以通过RoCE做常驻张量并行推理；还支持流水线并行，把多台机器的内存"粘"起来运行更大的模型。项目披露的数据显示，八张L40S组成的Flash集群在16个并发会话下达到了约126 tokens/s的聚合生成速度。

不只是跑模型：内置编程Agent和评估工具

ds4的工具链相当完整。除了基本的命令行交互（./ds4，支持/read读文件、/ctx调上下文等命令），项目还内置了三个重量级组件：

ds4-agent是原生编程智能体，直接推理而不依赖单独的HTTP server，保留token历史和模型实时状态，显示prefill进度，并使用DeepSeek和GLM各自的模型原生工具格式。会话可以保存、切换、删除，还有一个实用的/strip命令——只保留文本和标题、去掉庞大的KV缓存，方便归档。

ds4-server提供HTTP接口，默认监听本机8000端口，可以直接接入OpenCode、Codex CLI、Claude Code等客户端作为后端。

ds4-eval则负责能力回归测试，可以对真实GGUF模型跑嵌入式能力测试套件，这在快速迭代的项目里非常关键。

多模态也没落下：DeepSeek Vision实验版用独立checkpoint，GLM 5.3 Flash和Qwen3.8 Flash Next则通过单独的视觉编码器为文本模型增加图像理解能力。投机解码（MTP）作为可选功能提供，项目实测在文本语料上可达约152 tok/s且与贪心解码无损。

AI辅助开发的坦白

项目README里有一段少见的坦诚披露："本软件在AI编程智能体的强力辅助下开发，人类负责创意、测试和调试。"提交历史里多个commit带有Claude的署名。antirez直言，如果你不接受AI开发的代码，这个软件不适合你。从某种角度看，这个用AI助手写出来的推理引擎，本身就是对当前AI编程能力的一次公开展示。

怎么用

项目处于快速变化的beta阶段，每次发版前会跑大型QA，但仍可能存在不稳定和回归。安装方式因平台而异：Apple Silicon直接make，DGX Spark用make cuda-spark，Strix Halo用make strix-halo，通用CUDA多卡用make cuda-generic。96GB或128GB的Mac首次使用，运行./download_model.sh ds4f-q2下载DeepSeek V4 Flash的Q2量化版本即可上手，小内存Mac可参考SSD streaming文档。

模型支持策略被官方称为"机会主义"（intentionally opportunistic）：项目跟随最适合本地机器尺寸的最佳开源权重，当更好的替代出现时，某个模型可能会被移除。这种务实的态度，倒是和antirez当年做Redis时"把一件事做到极致"的风格一脉相承。

对于想在本地跑DeepSeek V4系列和GLM 5.x的Mac用户、DGX Spark和Framework Desktop用户来说，ds4提供了一条比通用框架更省心、调优更到位的路径。项目采用MIT许可开源，代码托管在GitHub的antirez/ds4仓库。

来源：GitHub antirez/ds4项目README（文本来源，无外链） 关键词：antirez、ds4、本地推理、DeepSeek、开源