★
langextract 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
A Python library for extracting structured information from unstructured text using LLMs with precise source grounding and interactive visualization.
kvpress 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打易用。
目前累计 1.2k star、186 fork，主要语言为 Python，项目始于 2024 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。NVIDIA/kvpress 是一个以 Python 为主的开源项目，目前累计 1.2k star、186 fork，近 30 天内有提交。主要方向：inference、kv-cache、kv-cache-compression、large-language-models、大模型、long-context。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
sglang 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打高性能。
SGLang is a high-performance serving framework for large language models and multimodal models.
★
VoxCPM 是用 Python 编写的学习资料，用于系统学习与查阅，主打开源免费。
VoxCPM2: Tokenizer-Free TTS for Multilingual Speech Generation, Creative Voice Design, and True-to-Life Cloning
★
LightRAG 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打速度快、易用。
[EMNLP2025] LightRAG: Simple and Fast Retrieval-Augmented Generation
★
DeepSpeed 是用 Python 编写的学习资料，用于系统学习与查阅，主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
★
ray 是用 Python 编写的学习资料，用于系统学习与查阅，主打可伸缩。
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.