★
DeepSpeed 是用 Python 编写的学习资料，用于系统学习与查阅，主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
triton-inference-server / server
server
The Triton Inference Server provides an optimized cloud and edge inferencing solution.
server 是用 Python 编写的学习资料，用于系统学习与查阅。
目前累计 1.1 万 star、1.9k fork，主要语言为 Python，项目始于 2018 年，采用 BSD-3-Clause 许可。最近状态：近一个月有提交。适合：想补齐某块知识的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。triton-inference-server/server 是一个以 Python 为主的开源项目，目前累计 11k star、1.9k fork，近 30 天内有提交。主要方向：云计算、datacenter、深度学习、edge、gpu、inference。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
Meta 开源的深度学习框架，动态图易用，研究领域使用最广。
Tensors and Dynamic neural networks in Python with strong GPU acceleration
★
ColossalAI 是用 Python 编写的 AI 工具，用于人工智能方向的建模与推理，主打速度快。
Making large AI models cheaper, faster and more accessible
★
gradio 是用 Python 编写的学习资料，用于系统学习与查阅，主打界面美观。
Build and share delightful machine learning apps, all in Python. 🌟 Star to support our work!
★
ray 是用 Python 编写的学习资料，用于系统学习与查阅，主打可伸缩。
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
★
streamlit 是用 Python 编写的学习资料，用于系统学习与查阅，主打速度快。
Streamlit — A faster way to build and share data apps.