vllm推理如何指定某块gpu · Issue #2092 · vllm-project/vllm · GitHub
2024年12月3日 - Sign inJump to bottomvllm推理如何指定某块gpu#2092.A high-throughput and memory-efficient inference and serving engine for LLMs - vllm推理如...
github.com
github com vllm （第 3 页）
Stargazers · fufankeji/vllm-ocr-server · GitHub
2025年8月12日 - High-performance multimodal OCR system built with LangChain 1.0 and vLLM. Integrates MinerU, PaddleOCR‑VL, and DeepSeek‑OCR with a unified...
github.com
Forks · 2ez4bz/vllm · GitHub
2026年4月5日 - A high-throughput and memory-efficient inference and serving engine for LLMs - Forks · 2ez4bz/vllm Skip to contentNavigation Menu Toggle na...
github.com
GitHub - Potabk/vllm-ascend at 1705
2025年6月15日 - 624 Commits.github.githubbenchmarksbenchmarksexamplesexamplesvllm_ascendvllm_ascend.gitignore.gitignore.pre-commit-config.yaml.pre-commit-co...
github.com
GitHub项目集成vLLM镜像,实现CI/CD自动化推理
实现方案 基础架构搭建 镜像准备:从Docker Hub下载vLLM官方镜像,支持量化推理(如DeepSeek-R1 70B分布式部署案例) 仓库配置:在GitHub创建包含Dockerfile、docker-compose.ym...
ai.so.com