★
开源星图GITHUB / DISCOVERY
今日免费检索 3 次
ggml-org / llama.cpp

llama.cpp

LLM inference in C/C++

C++★ 133k⑂ 25kMIT创建于 2023-03-10最近提交 2026-10-29
中文介绍 · 人工维护

用 C/C++ 实现的大模型推理引擎,主打本地与低资源环境运行。

目前累计 13.3 万 star、2.5 万 fork,主要语言为 C++,项目始于 2023 年,采用 MIT 许可。最近状态:本周仍有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

ggml-org/llama.cpp 是一个以 C++ 为主的开源项目,目前累计 133k star、25k fork,近 30 天内有提交。主要方向:ggml。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
ggml

README

正在加载…

相关项目