什么是GPU直通？
GPU直通是一种虚拟化技术，可将物理图形处理单元（GPU）直接分配给单个虚拟机（VM）。这使虚拟机能够像在裸机硬件上运行一样，充分调用GPU的全部性能。GPU直通技术绕过了虚拟机监控程序的抽象层，为图形密集型或计算密集型工作负载提供接近原生性能的运行体验。
此功能在虚拟桌面基础设施（VDI）、人工智能（AI）、机器学习（ML）和高性能计算（HPC）等应用场景中至关重要，这些场景需要GPU加速才能实现最佳性能。与共享或模拟的GPU资源不同，直通模式为单个虚拟机专属分配整块GPU，可提供最大吞吐量和最低延迟。
GPU直通技术通常通过虚拟化平台实现，例如基于内核的虚拟机（KVM）、VMware ESXi和Citrix Hypervisor，并常与现代中央处理器（CPU）和主板中提供的输入输出内存管理单元（IOMMU）技术相结合。
GPU直通的工作原理
GPU 直通是通过硬件和软件层面的虚拟化支持相结合实现的，具体而言，是利用 IOMMU 技术实现的 PCI Express (PCIe) 设备直通。这使得物理 GPU 能够直接映射到客户机虚拟机，绕过主机系统的控制，从而使虚拟机能够直接、低延迟地访问 GPU。
硬件配置
要使 GPU 直通功能正常工作，服务器必须支持 IOMMU（输入/输出内存管理单元），该功能可实现PCIe 隔离以及内存地址重映射。在英特尔平台上，此功能称为 Intel VT-d；在AMD ，则称为AMD。CPU、主板芯片组和固件均需支持这两项功能。
要启用 IOMMU，用户必须在系统 BIOS 或 UEFI 设置中将其启用。这通常需要启用虚拟化扩展（VT-d 或AMD），并确保在平台支持的情况下启用PCIe （访问控制服务）。某些系统可能还需要禁用“安全启动”或“快速启动”等功能，以实现完整的直通功能。
驱动程序安装
将 GPU 分配给虚拟机后，必须在客户机操作系统 (OS) 中安装相应的厂商专用驱动程序，例如NVIDIA，AMD或Intel 的 GPU 驱动程序。这些驱动程序使客户机操作系统能够识别并充分利用物理 GPU 的全部功能，包括 3D 加速、用于并行计算的CUDA核心以及硬件加速的渲染管道。
在某些情况下，可能需要在客户机内禁用虚拟机监控程序级别的图形接口，以防止驱动程序冲突，确保仅使用直通GPU。
虚拟机监控程序设置
启用 IOMMU 后，下一步是配置支持PCIe 虚拟机管理程序。常见的选择包括 KVM/QEMU、VMware ESXi 以及 Citrix Hypervisor（原 XenServer）。这些平台通过低级虚拟化驱动程序和 API，实现将PCIe 直接分配给客户机虚拟机。
例如，在KVM环境中，设备直通通过vfio-pci内核模块进行配置，该模块确保了安全且隔离的设备访问。VMware ESXi则采用DirectPath I/O技术将GPU直接暴露给虚拟机，在最小化虚拟化开销的同时实现接近原生性能的运行效果。
设备绑定
GPU 直通的关键步骤之一是将 GPU 从主机系统中分离出来，并将其绑定到虚拟机上。具体操作是：将 GPU 的PCIe 从任何默认的主机驱动程序中解除绑定，然后将其绑定到直通驱动程序（如 vfio-pci）。
一旦绑定，主机操作系统将完全无法访问该GPU，仅能由指定虚拟机使用。此机制可避免资源冲突，确保GPU的独占访问权限，这对实时渲染、仿真或深度学习模型训练等对延迟敏感的工作负载至关重要。
GPU直通的优势与挑战
GPU直通技术使虚拟机能够直接访问物理GPU，通过绕过虚拟机管理程序的抽象层实现接近原生性能的运行。这使其特别适用于计算密集型工作负载，例如人工智能训练、计算机辅助设计（CAD）渲染以及实时仿真。为虚拟机分配专用GPU还能提升隔离性与性能一致性，这对生产环境至关重要。
除了提升原始性能外，直通技术通过在虚拟桌面、远程工作站和容器化应用中启用GPU加速，进一步扩展了虚拟化能力。该技术使企业能够在更少的物理服务器上整合工作负载，同时保持每台虚拟机的高性能，从而实现更优的硬件利用率和更高效的运营效率。
然而，GPU直通技术存在技术挑战。它需要CPU和主板层面的IOMMU支持、正确的BIOS或UEFI配置，以及支持直通功能的GPU。许多消费级GPU缺乏完整的虚拟化支持，这可能导致在客户操作系统中出现兼容性受限或驱动程序问题。
配置复杂度是另一关键因素，通常需要修改内核、精确绑定设备以及在虚拟机监控程序层面进行调优。故障排查往往耗时费力，尤其在无头服务器上，且变更通常需要重启系统——因为直通GPU的热插拔支持有限或不可用。
GPU直通的硬件要求
要实现 GPU 直通，需要配备支持 IOMMU 虚拟化功能（如 Intel VT-d 或AMD）的服务器硬件，并进行正确的 BIOS 或 UEFI 配置。CPU、主板芯片组和固件必须相互兼容，且 GPU 必须支持直通功能，通常企业级显卡（如 NVIDIA A100 或AMD MI 系列）具备此功能。
此外，系统应提供PCIe 供电能力，以支持全尺寸GPU。为了在管理得当的数据中心环境中实现高效的直通配置，需要针对高密度GPU工作负载进行优化的服务器平台，这类平台通常具备PCIe 、强大的散热架构以及固件级别的直通支持。
常见问题
- 如何启用 GPU 直通？
启用GPU直通的方法是：在系统 BIOS 或 UEFI 中启用 IOMMU 支持（VT-d 或AMD），然后配置虚拟机管理程序（如 KVM 或 VMware ESXi）将 GPU 直接分配给虚拟机。此外，您还需要将 GPU 从主机驱动程序中解除绑定，并在客户机虚拟机中安装相应的 GPU 驱动程序。 - 需要两块GPU才能实现GPU直通吗？
虽然并非严格要求，但建议配备两块GPU。其中一块专用于主机系统，另一块则专用于虚拟机。这样既能确保主机维持显示输出和系统稳定性，又能让直通GPU完全隔离供虚拟机使用。 - GPU直通功能是否支持容器？
是的，若在具备直接GPU访问权限的虚拟机中进行配置，GPU直通功能可与容器协同工作。此外，针对容器的专用解决方案（如NVIDIA Docker或GPU操作框架）也能在Kubernetes环境中提供GPU访问支持。