★
ray 是用 Python 编写的学习资料，用于系统学习与查阅，主打可伸缩。
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
bentoml / BentoML
BentoML
The easiest way to serve AI apps and models - Build Model Inference APIs, Job queues, LLM apps, Multi-model pipelines, and more!
BentoML 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
目前累计 8.9k star、1k fork，主要语言为 Python，项目始于 2019 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。bentoml/BentoML 是一个以 Python 为主的开源项目，目前累计 8.9k star、1k fork，近 30 天内有提交。主要方向：ai-inference、深度学习、generative-ai、inference-platform、大模型、llm-inference。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。ai-inference深度学习generative-aiinference-platform大模型llm-inferencellm-servingllmopsmachine-learningml-engineeringmlopsmodel-inference-service
README
正在加载…相关项目
★
ai-engineering-from-scratch 是用 Python 编写的 AI 工具，用于人工智能方向的建模与推理。
Learn AI Engineering! Learn it. Build it. Ship it for others.
★
主流预训练模型库，NLP、视觉、多模态模型开箱即用，是 Hugging Face 生态的核心。
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both…
★
DeepSpeed 是用 Python 编写的学习资料，用于系统学习与查阅，主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
★
gradio 是用 Python 编写的学习资料，用于系统学习与查阅，主打界面美观。
Build and share delightful machine learning apps, all in Python. 🌟 Star to support our work!
★
langgraph 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。
Build resilient agents.