ds4
面向 Metal、CUDA 和 ROCm 的本地推理引擎。它让用户在自有硬件上运行开源大模型，而不依赖云服务。
分享到 X许可证: MIT
概述
DwarfStar 是一套面向 Metal、CUDA 和 ROCm 的本地推理引擎。它解决了在自有硬件上运行高性能开源模型的需求，并通过 GGUF 文件和 SSD 流式加载来支持较大的模型。
主要特点
- 可在本地运行 DeepSeek V4 Flash 和 PRO、GLM 以及 Qwen 模型
- 支持 Metal、NVIDIA CUDA 和 ROCm 硬件
- 使用项目生成的 GGUF 文件，并通过 SSD 流式加载处理较大模型
- 包含模型加载、提示词渲染、工具调用、KV 状态、HTTP 服务和编码代理的集成测试
适用场景
适合希望在自己的 Mac、CUDA 设备或 ROCm 系统上本地运行开源模型，而不依赖远程服务的用户。若你的模型和硬件符合项目支持范围，这会是合适的选择。
- 上游仓库
- antirez/ds4
- GitHub 上的 fork
- Guo-astro/ds4
- 上游 Star 数
- 23k
- 分类
- AI 智能体与大模型工具
- 编程语言
- C
- 许可证
- MIT
- Fork 时间
- 2026-10-03
- 同步状态
- 已同步上次同步 2026-10-11
同分类更多: AI 智能体与大模型工具
Hello-Agents是学习智能体原理与实践的教程，带领读者从基础知识入门，逐步构建智能体系统和应用。
Fork 时间 2026-10-10上次同步 2026-10-11自定义许可证（见仓库）AI 智能体与大模型工具GitHub
OpenSRE 是一个开源框架，用于构建 AI 智能体，借助你的基础设施工具和工作流调查生产事故。
Fork 时间 2026-10-10上次同步 2026-10-11许可证: Apache-2.0AI 智能体与大模型工具GitHub
Context Mode帮助AI编程代理减少上下文占用，并在对话压缩后延续工作。它通过MCP和钩子处理工具输出、会话记忆，并在支持的平台间进行路由。
Fork 时间 2026-10-10上次同步 2026-10-11自定义许可证（见仓库）AI 智能体与大模型工具GitHub
ARTEX 是一款用于资产探索和测试过程审查的自托管 AI 渗透测试系统。它在一个界面中呈现任务、发现结果、资产数据和审批流程。
Fork 时间 2026-10-10上次同步 2026-10-11许可证: AGPL-3.0AI 智能体与大模型工具GitHub