★
headroom 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same…
horseee / Awesome-Efficient-LLM
Awesome-Efficient-LLM
A curated list for Efficient Large Language Models
Awesome-Efficient-LLM 是用 Python 编写的学习资料，用于系统学习与查阅。
目前累计 2k star、170 fork，主要语言为 Python，项目始于 2023 年。最近状态：已有一段时间未更新。适合：想补齐某块知识的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。horseee/Awesome-Efficient-LLM 是一个以 Python 为主的开源项目，目前累计 2k star、170 fork，一年以上有维护。主要方向：compression、efficient-llm、knowledge-distillation、language-model、大模型、llm-compression。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。compressionefficient-llmknowledge-distillationlanguage-model大模型llm-compressionmodel-quantizationpruning-algorithms
README
正在加载…相关项目
★
sglang 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打高性能。
SGLang is a high-performance serving framework for large language models and multimodal models.
★
langextract 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
A Python library for extracting structured information from unstructured text using LLMs with precise source grounding and interactive visualization.
★
PageIndex 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
📑 PageIndex: Document Index for Vectorless, Reasoning-based RAG
★
ChatTTS 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
A generative speech model for daily dialogue.
★
LightRAG 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打速度快、易用。
[EMNLP2025] LightRAG: Simple and Fast Retrieval-Augmented Generation