开源星图GITHUB / DISCOVERY
今日免费检索 3 次
intentee / paddler

paddler

Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙 Alternative to projects like llm-d, Docker Model Runner, etc but with less moving parts and simple deployments built around ggml ecosystem. Runs on CPU and GPU.

Rust★ 1.7k⑂ 97Apache-2.0创建于 2024-04-27最近提交 2026-10-13
中文介绍 · 自动生成

paddler 是用 Rust 编写的 AI 工具,用于大模型与智能体应用开发,主打易用、开源免费。

目前累计 1.7k star、97 fork,主要语言为 Rust,项目始于 2024 年,采用 Apache-2.0 许可。最近状态:近一个月有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

intentee/paddler 是一个以 Rust 为主的开源项目,目前累计 1.7k star、97 fork,近 30 天内有提交。主要方向:人工智能、llamacpp、大模型、llmops、负载均衡。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
人工智能llamacpp大模型llmops负载均衡

README

正在加载…

相关项目