★
MNN 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、速度快、轻量。
MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on-device LLMs and Edge AI.
NVIDIA / FasterTransformer
FasterTransformer
Transformer related optimization, including BERT, GPT
FasterTransformer 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理。
目前累计 6.5k star、934 fork，主要语言为 C++，项目始于 2021 年，采用 Apache-2.0 许可。最近状态：已有一段时间未更新。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。NVIDIA/FasterTransformer 是一个以 C++ 为主的开源项目，目前累计 6.5k star、934 fork，较长时间未更新。主要方向：bert、gpt、pytorch、transformer。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
onnxruntime 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能、跨平台。
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator
★
whisper.cpp 是用 C++ 编写的 AI 工具，用于大模型与智能体应用开发。
Port of OpenAI's Whisper model in C/C++
★
entt 是用 C++ 编写的游戏开发项目，用于游戏与引擎开发，主打速度快、现代化。
Gaming meets modern C++ - a fast and reliable entity component system (ECS) and much more
★
capnproto 是用 C++ 编写的代码库，提供可直接复用的能力。
Cap'n Proto serialization/RPC system - core tools and C++ library
★
assimp 是用 C++ 编写的移动端方案，用于移动应用开发。
The official Open-Asset-Importer-Library Repository. Loads 40+ 3D-file-formats into one unified and clean data structure.