开源星图GITHUB / DISCOVERY
今日免费检索 3 次
google-ai-edge / LiteRT-LM

LiteRT-LM

LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.

C++★ 6.7k⑂ 755Apache-2.0创建于 2025-04-14最近提交 2026-10-14
中文介绍 · 自动生成

LiteRT-LM 是用 C++ 编写的 AI 模型,提供可直接使用的模型与权重,主打高性能、开源免费、适合生产环境。

目前累计 6.7k star、755 fork,主要语言为 C++,项目始于 2025 年,采用 Apache-2.0 许可。最近状态:近一个月有提交。适合:正在做技术选型的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

google-ai-edge/LiteRT-LM 是一个以 C++ 为主的开源项目,目前累计 6.7k star、755 fork,近 30 天内有提交。主要方向:edge-ai、on-device-ai、on-device-llm。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
edge-aion-device-aion-device-llm

README

正在加载…

相关项目