★
TensorRT 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、开源免费。
NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of Tens…
kvcache-ai / Mooncake
Mooncake
Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.
Mooncake 是用 C++ 编写的 AI 工具，用于大模型与智能体应用开发。
目前累计 6.8k star、1.3k fork，主要语言为 C++，项目始于 2024 年，采用 Apache-2.0 许可。最近状态：近一个月有提交。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。kvcache-ai/Mooncake 是一个以 C++ 为主的开源项目，目前累计 6.8k star、1.3k fork，近 30 天内有提交。主要方向：disaggregation、inference、kvcache、大模型、rdma、reinforcement-learning。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
bullet3 是用 C++ 编写的学习资料，用于系统学习与查阅，主打实时。
Bullet Physics SDK: real-time collision detection and multi-physics simulation for VR, games, visual effects, robotics, machine learning etc.
★
MNN 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、速度快、轻量。
MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on-device LLMs and Edge AI.
★
ncnn 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能。
ncnn is a high-performance neural network inference framework optimized for the mobile platform
★
mediapipe 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打可扩展、跨平台。
Cross-platform, customizable ML solutions for live and streaming media.
★
whisper.cpp 是用 C++ 编写的 AI 工具，用于大模型与智能体应用开发。
Port of OpenAI's Whisper model in C/C++