🌸 Run LLMs at home, BitTorrent-style. Fine-tuning and inference up to 10x faster than offloading
petals 是用 Python 编写的学习资料，用于系统学习与查阅，主打速度快。
目前累计 1.1 万 star、652 fork，主要语言为 Python，项目始于 2022 年，采用 MIT 许可。最近状态：已有一段时间未更新。适合：想补齐某块知识的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。bigscience-workshop/petals 是一个以 Python 为主的开源项目，目前累计 11k star、652 fork，较长时间未更新。主要方向：bloom、对话机器人、深度学习、distributed-systems、falcon、gpt。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat …
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), …
ray 是用 Python 编写的学习资料，用于系统学习与查阅，主打可伸缩。
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
AstrBot 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
AI Agent Assistant & development framework that integrates lots of IM platforms, LLMs, plugins and AI feature, and can be your openclaw alternative. ✨
LlamaFactory 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
LightRAG 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打速度快、易用。
[EMNLP2025] LightRAG: Simple and Fast Retrieval-Augmented Generation
DeepSpeed 是用 Python 编写的学习资料，用于系统学习与查阅，主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
每天每台设备可免费检索 3 次，浏览、筛选和关键词查找不消耗额度。选择下方任一方案即可继续（当前为模拟支付）。
模拟支付不会接入真实渠道，也不会产生任何扣款。