★
sglang 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打高性能。
SGLang is a high-performance serving framework for large language models and multimodal models.
vllm-project / vllm
vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
vllm 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
目前累计 9.6 万 star、2.4 万 fork，主要语言为 Python，项目始于 2023 年，采用 Apache-2.0 许可。最近状态：本周仍有提交。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。vllm-project/vllm 是一个以 Python 为主的开源项目，目前累计 96k star、24k fork，近 30 天内有提交。主要方向：amd、blackwell、cuda、deepseek、deepseek-v3、gpt。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
LlamaFactory 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
★
unsloth 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4.1, MiniMax-H3, Gemma 4, FLUX and more.
★
可视化搭建 AI 工作流与 RAG 应用的平台，内置多模型与工具支持，可自托管。
Build Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so…
★
AstrBot 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
AI Agent Assistant & development framework that integrates lots of IM platforms, LLMs, plugins and AI feature, and can be your openclaw alternative. ✨
★
MetaGPT 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
🌟 The Multi-Agent Framework: First AI Software Company, Towards Natural Language Programming