vLLM与DeepSeek在鲲鹏昇腾平台的部署实践指南-百度开发者中心
2025年9月10日 - python-m venv vllm-env.git clone https://github.com/Ascend/vLLM-Adapter.git.source vllm-env/bin/activate...
developer.baidu.com
github com vllm （第 6 页）
git commit规范在vLLM项目开发中的最佳实践-CSDN博客
2025年12月14日 - vLLM 的出现改变了这一局面。它通过 PagedAttention 实现细粒度显存管理,结合连续批处理最大化硬件利用率,并提供 OpenAI 兼容 API 快速接入现有生态。...
blog.csdn.net
vLLM - 知乎
2024年8月29日 - 最近项目有这方面的需求,记录学习过程,会持续更新。 vllm的安装在 VLLM大模型推理优化中已经写过了,这里不赘述,这里主要写跟并发相关的内容。vLLM提供...
zhuanlan.zhihu.com
【亲测免费】 vllm-ascend:为Ascend NPU提供无缝支持的AI模型插件-CSDN博客
vLLM Ascend 插件(vllm-ascend)是一款由社区维护的开源后端插件,旨在让vLLM——一款流行的语言模型框架——在华为Ascend NPU上实现无缝运行.vLLM Ascend 插件主要应用于深度学习和自然语言处理...blog.csdn.net反馈
blog.csdn.net
如何安装合适版本的vllm - CSDN文库
2025年9月24日 - 可以使用清华镜像加速安装: ~~~bash pip install vllm -i https://pypi.tuna.tsinghua.edu.cn/simple ~~~ --- ### ✅ 方法二:安装指定版本 + CUDA 支...
wenku.csdn.net
【VLLM】open-webui部署模型全流程_vllm openwebui-CSDN博客
本章主要讲述的是VLLM的部署在open-webui上部署模型的全流程,效果如下: 一、租用服务器到服务器连接VScode全流程(可选... blog.csdn.net反馈
blog.csdn.net
vllm docker-compose - 踩坑大王的日记 - 博客园
踩坑大王博客园首页新随笔联系订阅管理vllm docker-composeversion: '3' services: moonlit-vllm-qwen-hotvideo: image: vllm/vllm-openai:v0.6.2 container_name: hitvideos_api res...www.cnblogs.com反馈
cnblogs.com