从 65,729 个高星开源项目里，
找到你要的下一个。

VkFFT 是用 C++ 编写的代码库，提供可直接复用的能力，主打速度快。

Vulkan/CUDA/HIP/OpenCL/Level Zero/Metal Fast Fourier Transform library

ILGPU 是用 C# 编写的 AI 工具，用于人工智能方向的建模与推理，主打高性能。

ILGPU JIT Compiler for high-performance .Net GPU programs

Booth 是用 C 编写的工程工具，用于代码分析、构建与打包，主打开源免费。

Open-source CUDA, Triton and HIP compiler targeting multiple GPU and CPU architectures.

tt-metal 是用 Python 编写的 AI 工具，用于人工智能方向的建模与推理。

:metal: TT-NN operator library, and TT-Metalium low level kernel programming model.

fast_gicp 是用 C++ 编写的运维工具，用于部署、编排与监控，主打速度快。

A collection of GICP-based fast point cloud registration algorithms

nnvm 是用 C++ 编写的学习资料，用于系统学习与查阅。

spirula-studio 是用 C++ 编写的 AI 工具，用于人工智能方向的建模与推理。

Cross-vendor 3D Gaussian Splatting trainer - video to splat to mesh, Vulkan or CUDA.

gpu-hot 是用 JavaScript 编写的运维工具，用于部署、编排与监控，主打实时。

🔥 Real-time NVIDIA GPU dashboard

thundersvm 是用 C++ 编写的学习资料，用于系统学习与查阅，主打速度快。

ThunderSVM: A Fast SVM Library on GPUs and CPUs

mnn-llm 是用 C++ 编写的 AI 模型，提供可直接使用的模型与权重。

llm deploy project based mnn. This project has merged into MNN.

autokernel 是用 Python 编写的系统软件，属于操作系统或底层系统软件。

Autoresearch for GPU kernels. Give it any PyTorch model, go to sleep, wake up to optimized Triton kernels.

kernl 是用 Jupyter Notebook 编写的 AI 工具，用于人工智能方向的建模与推理，主打速度快。

Kernl lets you run PyTorch transformer models several times faster on GPU with a single line of code, and is designed to be easily hackable.

3d-ken-burns 是用 Python 编写的学习资料，用于系统学习与查阅。

an implementation of 3D Ken Burns Effect from a Single Image using PyTorch

NN-CUDA-Example 是用 Python 编写的 AI 工具，用于人工智能方向的建模与推理，主打易用。

Several simple examples for popular neural network toolkits calling custom CUDA operators.

uccl 是用 C++ 编写的 AI 工具，用于大模型与智能体应用开发。

UCCL is an efficient communication library for GPUs, covering collectives, P2P (e.g., KV cache transfer, RL weight transfer), and EP (e.g., GPU-driv…

TornadoVM 是用 Java 编写的 AI 工具，用于人工智能方向的建模与推理，主打速度快。

Write Java. Run on GPUs. Fast.

marian 是用 C++ 编写的开源项目，主题标签有限，建议打开仓库查看具体用途，主打速度快。

Fast Neural Machine Translation in C++

sglang-omni 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打高性能。

SGLang-Omni is a high-performance serving framework for audio models (TTS, ASR) and unified multimodal models.

Chatterbox-TTS-Server 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发，主打易用、功能完整、可扩展。

Self-host the powerful Chatterbox TTS model. This server offers a user-friendly Web UI, flexible API endpoints (incl. OpenAI compatible), predefined…

zero-to-sglang 是用 Python 编写的 AI 工具，用于大模型与智能体应用开发。

Official SGLang x Datawhale course on LLM inference: understand inference, build a mini-sglang from scratch, then read the real SGLang source and la…

TensorRT-Alpha 是用 C++ 编写的开源项目，主题标签有限，建议打开仓库查看具体用途。

🔥🔥🔥TensorRT for YOLOv8、YOLOv8-Pose、YOLOv8-Seg、YOLOv8-Cls、YOLOv7、YOLOv6、YOLOv5、YOLONAS......🚀🚀🚀CUDA IS ALL YOU NEED.🍎🍎🍎

Deep-learning-with-cats 是用 Python 编写的学习资料，用于系统学习与查阅。

Deep learning with cats (^._.^)

MatX 是用 C++ 编写的代码库，提供可直接复用的能力。

An efficient C++20 GPU numerical computing library with Python-like syntax

tsdf-fusion-python 是用 Python 编写的 AI 工具，用于人工智能方向的建模与推理。

Python code to fuse multiple RGB-D images into a TSDF voxel volume.