开源星图GITHUB / DISCOVERY
今日免费检索 3 次
wici-ai / inferssd

inferssd

Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.

C++★ 1.2k⑂ 105Apache-2.0创建于 2026-10-22最近提交 2026-11-17
中文介绍 · 自动生成

inferssd 是用 C++ 编写的 AI 工具,用于大模型与智能体应用开发。

目前累计 1.2k star、105 fork,主要语言为 C++,项目始于 2026 年,采用 Apache-2.0 许可。最近状态:本周仍有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

wici-ai/inferssd 是一个以 C++ 为主的开源项目,目前累计 1.2k star、105 fork,近 30 天内有提交。主要方向:apple-silicon、cuda、gguf、inference、llama-cpp、大模型。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
apple-siliconcudaggufinferencellama-cpp大模型metalmixture-of-expertsssd

README

正在加载…

相关项目