★
langextract 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
A Python library for extracting structured information from unstructured text using LLMs with precise source grounding and interactive visualization.
intel / neural-compressor
neural-compressor
SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression techniques on PyTorch, TensorFlow, and ONNX Runtime
neural-compressor 是用 Python 编写的 AI 模型，提供可直接使用的模型与权重。
目前累计 2.7k star、329 fork，主要语言为 Python，项目始于 2020 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：正在做技术选型的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。intel/neural-compressor 是一个以 Python 为主的开源项目，目前累计 2.7k star、329 fork，近 30 天内有提交。主要方向：auto-tuning、awq、fp4、gptq、int4、int8。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。auto-tuningawqfp4gptqint4int8knowledge-distillationlarge-language-modelslow-precisionmxformatpost-training-quantizationpruning
README
正在加载…相关项目
★
LightRAG 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打速度快、易用。
[EMNLP2025] LightRAG: Simple and Fast Retrieval-Augmented Generation
★
ray 是用 Python 编写的学习资料，用于系统学习与查阅，主打可伸缩。
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
★
《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码
《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码
★
为GPT/GLM等LLM大语言模型提供实用化交互接口，特别优化论文阅读/润色/写作体验，模块化设计，支持自定义快捷按钮&函数插件，支持Python和C++等项目剖析&自译解功能，PDF/LaTex论文翻译&总结功能，支持并行问询多种LL…
为GPT/GLM等LLM大语言模型提供实用化交互接口，特别优化论文阅读/润色/写作体验，模块化设计，支持自定义快捷按钮&函数插件，支持Python和C++等项目剖析&自译解功能，PDF/LaTex论文翻译&总结功能，支持并行问询多种LLM模型，支持chatglm3等本地模型。接入通义千问, de…
★
LlamaFactory 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)