★
DeepSpeed 是用 Python 编写的学习资料，用于系统学习与查阅，主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
vllm-project / llm-compressor
llm-compressor
State-of-the-art LLM compression, built for production inference with vLLM
llm-compressor 是用 Python 编写的 AI 模型，提供可直接使用的模型与权重。
目前累计 3.9k star、690 fork，主要语言为 Python，项目始于 2024 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：正在做技术选型的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。vllm-project/llm-compressor 是一个以 Python 为主的开源项目，目前累计 3.9k star、690 fork，近 30 天内有提交。主要方向：compression、quantization。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
headroom 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same…
★
[EMNLP 2025 Demo] PDF scientific paper translation with preserved formats - 基于 AI 完整保留排版的 PDF 文档全文双语翻译，支持 Google/DeepL…
[EMNLP 2025 Demo] PDF scientific paper translation with preserved formats - 基于 AI 完整保留排版的 PDF 文档全文双语翻译，支持 Google/DeepL/Ollama/OpenAI 等服务，提供 CLI/GUI/…
★
sglang 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打高性能。
SGLang is a high-performance serving framework for large language models and multimodal models.
★
500-AI-Agents-Projects 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打开源免费。
The 500 AI Agents Projects is a curated collection of AI agent use cases across various industries. It showcases practical applications and provides…
★
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat …
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), …