课程路径训练闪卡
返回学习地图
trainingPhase D · 第 29 课

D4.4 vLLM 部署模型

把模型变成 OpenAI 兼容 API

3 个章节·按类别展开/折叠
代码

vLLM 一键部署

代码

调用 API

表格

生产部署方案对比

vLLM / TGI / Triton / Ollama / Modal 横向对比
← D3.1 LoRA 原理（低秩适应）