开源星图GITHUB / DISCOVERY
今日免费检索 3 次
sybil-solutions / inference-optimisation-skill

inference-optimisation-skill

Agent skill for hill-climbing local LLM serving speed (decode, speculative decoding, prefill, KV, startup, TTFT) on any hardware and quantization

Python★ 1k⑂ 89MIT创建于 2026-11-16最近提交 2026-11-16
中文介绍 · 自动生成

inference-optimisation-skill 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。

目前累计 1k star、89 fork,主要语言为 Python,项目始于 2026 年,采用 MIT 许可。最近状态:本周仍有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

sybil-solutions/inference-optimisation-skill 是一个以 Python 为主的开源项目,目前累计 1k star、89 fork,近 30 天内有提交。主要方向:agent-skill、benchmarking、claude-code、inference、大模型、speculative-decoding。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
agent-skillbenchmarkingclaude-codeinference大模型speculative-decoding

README

正在加载…

相关项目