DeepSpeed 是用 Python 编写的学习资料,用于系统学习与查阅,主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSeek, Mixtral, Gemma, Phi, MiniCPM, Qwen-VL, MiniCPM-V, etc.) on Intel XPU (e.g., local PC with iGPU and NPU, discrete GPU such as Arc, Flex and Max); seamlessly integrate with llama.cpp, Ollama, HuggingFace, LangChain, LlamaIndex, vLLM, DeepSpeed, Axolotl, etc.
ipex-llm 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。
目前累计 8.8k star、1.4k fork,主要语言为 Python,项目始于 2016 年,采用 Apache-2.0 许可。最近状态:已有一段时间未更新。适合:做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。intel/ipex-llm 是一个以 Python 为主的开源项目,目前累计 8.8k star、1.4k fork,一年以上有维护。主要方向:gpu、大模型、pytorch、transformers。
依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。DeepSpeed 是用 Python 编写的学习资料,用于系统学习与查阅,主打易用、可伸缩。
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
sglang 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发,主打高性能。
SGLang is a high-performance serving framework for large language models and multimodal models.
langextract 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。
A Python library for extracting structured information from unstructured text using LLMs with precise source grounding and interactive visualization.
VoxCPM 是用 Python 编写的学习资料,用于系统学习与查阅,主打开源免费。
VoxCPM2: Tokenizer-Free TTS for Multilingual Speech Generation, Creative Voice Design, and True-to-Life Cloning
PageIndex 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。
📑 PageIndex: Document Index for Vectorless, Reasoning-based RAG
ChatTTS 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。
A generative speech model for daily dialogue.
每天每台设备可免费检索 3 次,浏览、筛选和关键词查找不消耗额度。选择下方任一方案即可继续(当前为模拟支付)。
模拟支付不会接入真实渠道,也不会产生任何扣款。