开源星图GITHUB / DISCOVERY
今日免费检索 3 次
b4rtaz / distributed-llama

distributed-llama

Distributed LLM inference. Connect home devices into a powerful cluster to accelerate LLM inference. More devices means faster inference.

C++★ 3.1k⑂ 256MIT创建于 2023-12-04最近提交 2026-07-05
中文介绍 · 自动生成

distributed-llama 是用 C++ 编写的 AI 工具,用于大模型与智能体应用开发,主打速度快、功能完整、可伸缩。

目前累计 3.1k star、256 fork,主要语言为 C++,项目始于 2023 年,采用 MIT 许可。最近状态:近半年有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

b4rtaz/distributed-llama 是一个以 C++ 为主的开源项目,目前累计 3.1k star、256 fork,近半年有提交。主要方向:distributed-computing、distributed-llm、llama2、llama3、大模型、llm-inference。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
distributed-computingdistributed-llmllama2llama3大模型llm-inferencellmsneural-networkopen-llm

README

正在加载…

相关项目

★

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练…

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练和跨平台部署)

C++ ★ 24k⑂ 6k 16 天前更新 Apache-2.0