★
ncnn 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能。
ncnn is a high-performance neural network inference framework optimized for the mobile platform
zjhellofss / KuiperInfer
KuiperInfer
校招、秋招、春招、实习好项目！带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step
校招、秋招、春招、实习好项目！带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning i…
目前累计 3.5k star、374 fork，主要语言为 C++，项目始于 2022 年，采用 MIT 许可。最近状态：已有一段时间未更新。适合：想补齐某块知识的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。zjhellofss/KuiperInfer 是一个以 C++ 为主的开源项目，目前累计 3.5k star、374 fork，一年以上有维护。主要方向：caffe、convolution、深度学习、deep-neural-networks、diy、graph-algorithms。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。caffeconvolution深度学习deep-neural-networksdiygraph-algorithmsinferenceinference-enginemaxpoolingncnnpnnxpytorch
README
正在加载…相关项目
★
TensorRT 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、开源免费。
NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of Tens…
★
MNN 是用 C++ 编写的学习资料，用于系统学习与查阅，主打高性能、速度快、轻量。
MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on-device LLMs and Edge AI.
★
CNTK 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打开源免费。
Microsoft Cognitive Toolkit (CNTK), an open source deep-learning toolkit
★
onnxruntime 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能、跨平台。
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator
★
openpose 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理，主打实时。
OpenPose: Real-time multi-person keypoint detection library for body, face, hands, and foot estimation