从 65,707 个高星开源项目里，
找到你要的下一个。

用 C/C++ 实现的大模型推理引擎，主打本地与低资源环境运行。

LLM inference in C/C++

stable-diffusion.cpp 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理。

Diffusion model(SD,Flux,Wan,Qwen Image,Z-Image,...) inference in pure C/C++

llm 是用 Rust 编写的 AI 工具，用于大模型与智能体应用开发。

[Unmaintained, see README] An ecosystem of Rust libraries for working with large language models

audio.cpp 是用 C++ 编写的多媒体工具，用于处理音视频内容，主打高性能。

An all-in-one, pure C++ inference engine for audio models, powered by ggml. Supports TTS, STT, VAD, voice conversion, music generation, and more, wi…

LLMFarm 是用 C 编写的 AI 工具，用于人工智能方向的建模与推理。

llama and other large language models on iOS and MacOS offline using GGML library.

transcribe.cpp 是用 C++ 编写的 AI 工具，用于大模型训练与推理。

ggml speech-to-text inference for 16+ model families

gollama 是用 Go 编写的 AI 工具，用于大模型与智能体应用开发。

Go manage your Ollama models

rwkv.cpp 是用 C++ 编写的学习资料，用于系统学习与查阅。

INT4/INT5/INT8 and FP16 inference on CPU for RWKV language model

gpu_poor 是用 JavaScript 编写的 AI 工具，用于大模型与智能体应用开发。

Calculate token/s & GPU memory requirement for any LLM. Supports llama.cpp/ggml/bnb/QLoRA quantization

YuE2-Studio 是用 TypeScript 编写的多媒体工具，用于处理音视频内容。

Local AI song generator with an editable score — YuE2 on your GPU: full songs with vocals, sheet music, covers, exact replay. Native Windows app, no…