开源星图GITHUB / DISCOVERY
今日免费检索 3 次
intel / intel-extension-for-transformers

intel-extension-for-transformers

⚡ Build your chatbot within minutes on your favorite device; offer SOTA compression techniques for LLMs; run LLMs efficiently on Intel Platforms⚡

Python★ 2.2k⑂ 214Apache-2.0创建于 2022-11-11最近提交 2024-10-08已归档
中文介绍 · 自动生成

intel-extension-for-transformers 是用 Python 编写的 AI 工具,用于大模型与智能体应用开发。

目前累计 2.2k star、214 fork,主要语言为 Python,项目始于 2022 年,采用 Apache-2.0 许可。最近状态:已有一段时间未更新。适合:做 AI 应用的开发者。

中文介绍优先采用本站人工维护条目;无维护条目时依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经项目方确认,不构成选型结论。
一句话解读

intel/intel-extension-for-transformers 是一个以 Python 为主的开源项目,目前累计 2.2k star、214 fork,较长时间未更新。主要方向:4-bits、autoround、对话机器人、chatpdf、gaudi3、habana。

依据 GitHub 公开字段(语言、主题、星标、提交时间)自动生成,未经人工逐项核实。
4-bitsautoround对话机器人chatpdfgaudi3habanaintel-optimized-llamacpplarge-language-modelllm-cpullm-inferenceneural-chatneural-chat-7b

README

正在加载…

相关项目

★

Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat …

Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), …

Python ★ 39k⑂ 6.3k 12 个月前更新 Apache-2.0