★
开源星图GITHUB / DISCOVERY
今日免费检索 3 次
intel / auto-round

auto-round

A simple and effective post training quantization toolkit for high-accuracy low-bit LLM inference|简洁且高效的后训练量化工具包

Python★ 1.6k⑂ 182Apache-2.0创建于 2024-01-04最近提交 2026-10-13
中文介绍 · 仓库原文

A simple and effective post training quantization toolkit for high-accuracy low-bit LLM inference|简洁且高效的后训练量化工具包

目前累计 1.6k star、182 fork,主要语言为 Python,项目始于 2024 年,采用 Apache-2.0 许可。最近状态:近一个月有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

intel/auto-round 是一个以 Python 为主的开源项目,目前累计 1.6k star、182 fork,近 30 天内有提交。主要方向:diffusers、gguf、int4、llms、mxfp4、nvfp4。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
diffusersggufint4llmsmxfp4nvfp4omniquantizationroundingsglangtransformersvllm

README

正在加载…

相关项目

★

微舆:人人可用的多Agent舆情分析助手,打破信息茧房,还原舆情原貌,预测未来走向,辅助决策!从0实现,不依赖任何框架。

微舆:人人可用的多Agent舆情分析助手,打破信息茧房,还原舆情原貌,预测未来走向,辅助决策!从0实现,不依赖任何框架。

Python ★ 43k⑂ 7.6k 13 天前更新 GPL-2.0