★
Google 开源的机器学习框架，覆盖模型训练、部署与移动端推理，生态庞大。
An Open Source Machine Learning Framework for Everyone
tensorflow / serving
serving
A flexible, high-performance serving system for machine learning models
serving 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能、可扩展。
目前累计 6.4k star、2.2k fork，主要语言为 C++，项目始于 2016 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。tensorflow/serving 是一个以 C++ 为主的开源项目，目前累计 6.4k star、2.2k fork，近 30 天内有提交。主要方向：cpp、深度学习、deep-neural-networks、machine-learning、ml、neural-network。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
CNTK 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打开源免费。
Microsoft Cognitive Toolkit (CNTK), an open source deep-learning toolkit
★
PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice （『飞桨』核心框架，深度学习&机器学习高性能单机、分布式训练…
PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice （『飞桨』核心框架，深度学习&机器学习高性能单机、分布式训练和跨平台部署）
★
dlib 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理。
A toolkit for making real world machine learning and data analysis applications in C++
★
MNN 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、速度快、轻量。
MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on-device LLMs and Edge AI.
★
onnxruntime 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能、跨平台。
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator