★
开源星图GITHUB / DISCOVERY
今日免费检索 3 次
flashinfer-ai / flashinfer

flashinfer

FlashInfer: Kernel Library for LLM Serving

Cuda★ 6.6k⑂ 1.6kApache-2.0创建于 2023-07-22最近提交 2026-10-14
中文介绍 · 自动生成

flashinfer 是用 Cuda 编写的 AI 工具,用于大模型与智能体应用开发。

目前累计 6.6k star、1.6k fork,主要语言为 Cuda,项目始于 2023 年,采用 Apache-2.0 许可。最近状态:近一个月有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

flashinfer-ai/flashinfer 是一个以 Cuda 为主的开源项目,目前累计 6.6k star、1.6k fork,近 30 天内有提交。主要方向:attention、cuda、distributed-inference、gpu、jit、large-large-models。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
attentioncudadistributed-inferencegpujitlarge-large-modelsllm-inferencemoenvidiapytorch

README

正在加载…

相关项目