★
mistral-inference 是用 Jupyter Notebook 编写的 AI 工具，用于大模型与智能体应用开发。
Official inference library for Mistral models
FasterDecoding / Medusa
Medusa
Medusa: Simple Framework for Accelerating LLM Generation with Multiple Decoding Heads
Medusa 是用 Jupyter Notebook 编写的 AI 工具，用于大模型与智能体应用开发，主打易用。
目前累计 2.8k star、206 fork，主要语言为 Jupyter Notebook，项目始于 2023 年，采用 Apache-2.0 许可。最近状态：已有一段时间未更新。适合：做 AI 应用的开发者。
中文介绍优先采用本站人工维护条目；无维护条目时依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经项目方确认，不构成选型结论。FasterDecoding/Medusa 是一个以 Jupyter Notebook 为主的开源项目，目前累计 2.8k star、206 fork，较长时间未更新。主要方向：大模型、llm-inference。
依据 GitHub 公开字段（语言、主题、星标、提交时间）自动生成，未经人工逐项核实。README
正在加载…相关项目
★
每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈
每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈
★
Prompt_Engineering 是用 Jupyter Notebook 编写的学习资料，用于系统学习与查阅。
22 prompt engineering techniques with hands-on Jupyter Notebook tutorials, from fundamental concepts to advanced strategies for leveraging LLMs.
★
evidently 是用 Jupyter Notebook 编写的 AI 工具，用于大模型与智能体应用开发，主打开源免费。
Evidently is an open-source ML and LLM observability framework. Evaluate, test, and monitor any AI-powered system or data pipeline. From tabular d…
★
generative-ai 是用 Jupyter Notebook 编写的 AI 工具，用于大模型与智能体应用开发，主打适合生产环境。
Sample code and notebooks for Generative AI on Google Cloud, with Gemini Enterprise Agent Platform
★
llama-cookbook 是用 Jupyter Notebook 编写的 AI 工具，用于人工智能方向的建模与推理。
Welcome to the Llama Cookbook! This is your go to guide for Building with Llama: Getting started with Inference, Fine-Tuning, RAG. We also show you …