开源星图GITHUB / DISCOVERY
今日免费检索 3 次
FMInference / FlexLLMGen

FlexLLMGen

Running large language models on a single GPU for throughput-oriented scenarios.

Python★ 9.3k⑂ 588Apache-2.0创建于 2023-02-15最近提交 2024-10-28已归档
中文介绍 · 自动生成

FlexLLMGen 是用 Python 编写的学习资料,用于系统学习与查阅。

目前累计 9.3k star、588 fork,主要语言为 Python,项目始于 2023 年,采用 Apache-2.0 许可。最近状态:已有一段时间未更新。适合:想补齐某块知识的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

FMInference/FlexLLMGen 是一个以 Python 为主的开源项目,目前累计 9.3k star、588 fork,较长时间未更新。主要方向:深度学习、gpt-3、high-throughput、large-language-models、machine-learning、offloading。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
深度学习gpt-3high-throughputlarge-language-modelsmachine-learningoffloadingopt

README

正在加载…

相关项目