★
开源星图GITHUB / DISCOVERY
今日免费检索 3 次
waybarrios / vllm-mlx

vllm-mlx

High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.

Python★ 1.6k⑂ 232Apache-2.0创建于 2025-12-06最近提交 2026-10-12
中文介绍 · 自动生成

vllm-mlx 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发,主打高性能。

目前累计 1.6k star、232 fork,主要语言为 Python,项目始于 2025 年,采用 Apache-2.0 许可。最近状态:近一个月有提交。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

waybarrios/vllm-mlx 是一个以 Python 为主的开源项目,目前累计 1.6k star、232 fork,近 30 天内有提交。主要方向:anthropic、anthropic-api、apple-silicon、claude-code、continuous-batching、inference-server。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
anthropicanthropic-apiapple-siliconclaude-codecontinuous-batchinginference-server大模型local-llmmacOSmcpmlxmultimodal-ai

README

正在加载…

相关项目