前两期视频分别讲述人工智能中的“训练”和“推理”原理。本期视频将讲述虚拟GPU和桌面虚拟化，以及GPU硬件，包括以下几点：

·了解GPU、虚拟化和VDI。

·VDI（虚拟桌面基础架构）如何实现远程办公？区别于本地PC办公与公有云云计算，VDI有哪些优势呢？

·VDI共享GPU资源的方法，配置了GPU资源的VDI能够加速哪些应用？

·NVIDIA通过GPU共享技术架构——NVIDIA Virtual GPU助力各行各业的用户提升工作体验。

·NVIDIA A40和NVIDIA A16 GPU。

以下由视频脚本整理：

  近年来，远程办公已经成为一种新常态。

  学校老师和学生需要通过平板等终端随时随地访问MATLAB、CAD等专业软件；

  医院医生需要协同不同区域专家远程访问大型复杂的医疗模型或图片进行会诊；

  能源公司专家需要实时完成对复杂盆地的地震迹线属性计算和可视化分析；

  投行金融人士需要在确保数据安全情况下低延迟的多屏访问数据信息……

  远程工作在图形计算、AI推理等领域的专业应用越来越多，如何使用虚拟GPU技术加速VDI成为众多企业关注的技术风尚。

  要了解如何使用虚拟GPU技术加速VDI，那就要先简单了解GPU、虚拟化和VDI。

  区别于我们常见的算术逻辑单元和控制器数量少而大的CPU，GPU具有成千上万个算术逻辑单元，是加速图形计算、AI推理更理想的选择。虚拟化技术就是将单台物理计算机的资源通过软件重新分配成多台逻辑计算机的技术，我们把提供资源的物理计算机叫做主机Host，使用其资源的逻辑计算机叫做虚拟机（Virtual machine，VM）或客户机Guest，用来分离并适当分配主机资源的软件叫虚拟机监控程序-Hypervisor。VDI英文全称Virtual Desktop Infrastructure，也就是虚拟桌面基础架构，也常称为“虚拟云桌面”，是一种通过软件方法让终端客户能够通过网络在任何时间、任何地点、任何设备登陆虚拟桌面并使用数据中心服务器资源的IT基础架构。

  VDI是如何实现远程办公的呢？区别于本地PC办公与公有云云计算，它又有哪些优势呢？

  VDI运用桌面虚拟化技术，首先通过虚拟化软件在数据中心的硬件服务器上创建多个VM，然后根据终端客户需求在这些VM上安装OS和APP，最后通过桌面传输协议将对应的虚拟桌面分发到各个客户端上。

  在所有VDI部署中，都有以下特征：每个虚拟桌面都包含一个OS映像，VM的OS及配置的硬件资源可多样化，多个拥有不同OS的VM能够同时运行在同一台服务器中，所有的计算和存储都集中在了服务器端，终端客户可通过PC、平板电脑或客户机等多种端口连接，并且必须通过网络连接。

  基于这些特征，相比使用本地PC或者公有云云计算办公的企业，VDI能够为使用它的企业提供许多优势：自由性——只要有网络，使用VDI的员工随时可以从世界任何地方使用任何端口轻松地访问他们的所有文件和应用并远程开展工作；安全性——所有的数据都保存在客户自己数据中心的服务器中，这在终端设备和公有云被盗或遭到侵入时能够有效保护数据的安全；易管理性——通过将数据和计算集中在数据中心服务器中，IT部门能够轻松地修补、更新或配置系统中的所有虚拟桌面；节约性——通过对数据中心服务器的集中采购和运营维护，企业能够有效减少硬件采购成本、运营成本、能耗成本等。

  毋容置疑，VDI能够有效帮助企业解决远程办公问题。那么，有哪些让VDI共享GPU资源的方法呢？这些配置了GPU资源的VDI又能够加速哪些应用呢？

  企业VDI用户共享GPU资源的方法，常见的有PCIe设备直通和硬件支持虚拟化技术。PCIe设备直通能够为虚拟机用户提供近乎物理机般的GPU使用体验，但它始终面临着管理困难，GPU资源利用率低、无法支持随VM热迁移等问题。硬件支持虚拟化技术是硬件层级的虚拟化，通过GPU厂商提供的虚拟I/O，设备的DMA通道和中断可以直接映射到客户机系统。该方法是开发模块最少且效率最高的，是比较理想的虚拟GPU方案。

  NVIDIA作为GPU技术的全球引领者，基于硬件支持虚拟化方法打造了自己的GPU共享技术架构——NVIDIA Virtual GPU（vGPU）。NVIDIA vGPU将NVIDIA GPU的强大功能引入虚拟桌面、应用程序和工作站（vPC、vAPP、vWS），为多种工作负载的VDI用户在各个领域提供高性能计算资源。

  通过将NVIDIA vGPU添加到VDI中，在有网络连接的各个时间各个地点的各种设备上，医疗组织能够让医生和专家共享和查看包含高清复杂医疗影像信息的病历，从而为病人更快更准确的完成诊断；

  学校的老师和学生能够打开原本需要运行在物理计算机上的专业应用程序，满足疫情下虚拟教室的专业应用需求；

  建筑、工程、建设（AEC）行业的工程师和建筑师不仅能够处理必须使用工作站设计的大型3D建筑模型，还能够协调供应商和承包商共同管理项目进展；

  政府工作人员能够比仅配置CPU的VDI上更快速的打开应用程序，并能够更流畅地进行视频会议；

  制造业的设计师能够不受限制的发挥他们的设计灵感，与来自世界各地的优秀团队在同一个框架中完成工作；

  金融投行的精英能够在多个屏幕上实时关注来自全球市场的最新信息，从而更精准更高效地做出投资判断。

  NVIDIA vGPU为各行各业的用户带来无与伦比的NVIDIA GPU性能和媲美物理计算机的全新的工作体验。NVIDIA vGPU是企业虚拟化业务部署的理想选择，能够让各行各业的专业人士充分利用NVIDIA GPU的强大功能。NVIDIA vGPU软件能够让企业的IT部门将正在运行的虚拟机从一台物理服务器移动到另一台物理服务器，同时将停机时间降至最低，也不会丢失数据。

  在工作负载迁移期间，用户将继续访问所需的应用程序，并且计算密集型服务器工作负载不会中断。NVIDIA vGPU软件与虚拟机监控程序Hypervisor一起安装在虚拟化层，能够帮助企业管理与监控VDI用户，有效减少故障的排除时间。

  NVIDIA vGPU软件能够让每个物理GPU支持最多24个虚拟桌面、最多8种vGPU文件配置方法，以满足用户高密度、高灵活地资源调配需求。NVIDIA vGPU软件能够支持OpenCL 3.0、OpenGL® 4.6、Vulkan® 1.3、DirectX 11、Direct2D、DXVA、NVIDIA® CUDA® 11.6、NVIDIA RTX等多种API，能够满足用户图形渲染等多种场景的应用需求。NVIDIA vGPU技术结合NVIDIA A40、NVIDIA A16等全球最强大的数据中心GPU，是企业加速VDI，满足员工远程办公处理图形渲染和高性能计算应用的理想选择。

  NVIDIA A40 Tensor Core GPU是NVIDIA基于NVIDIA Ampere®架构打造的集优秀的专业图形性能与强大的计算和AI加速能力于一体的专业GPU。NVIDIA A40内置10752个Ampere架构CUDA Core，84个第二代RT Core，336个第三代Tensor Core，能够将单精度浮点计算吞吐量和光线追踪的运行速度最高提升至前一代的两倍，且能够在无需更改任何代码情况下将Tensor Float 32（TF32）精度的训练吞吐量提高五倍。

  NVIDIA A40 GPU拥有带有ECC功能的48GB GDDR6的超大容量显存，696GB/s超高显存带宽，借助NVLINK®技术更可将显存扩展到96GB。NVIDIA A40 GPU支持并行运行光线追踪与着色或降噪，支持深度学习超级采样（DLSS）等诸多功能，能够大幅加快电影内容的逼真渲染、建筑设计评估以及产品设计虚拟原型制作等工作负载的速度，是处理更先进的专业可视化工作负载的强力工具。

  企业的IT部门通过将NVIDIA A40 GPU与NVIDIA vGPU软件相结合，能够加速VDI在光线追踪渲染、模拟、虚拟制作等领域的应用，为企业的知识工作者、设计师和工程师，提供无与伦比的NVIDIA显卡性能和与物理PC相媲美的出色用户体验。

  NVIDIA A16 Tensor Core GPU是NVIDIA专为加速图形丰富的VDI而打造的超高性价比GPU。NVIDIA A16与vGPU软件相结合，能够支持vPC、vApps和vWS多种工作负载，满足用户远程运行计算机辅助设计（CAD）等需求，帮助各行各业的知识型员工实现工作效率最大化。NVIDIA A16更有独特的四GPU设计，每个GPU最多可支持64个用户同时在线，单个NVIDIA A16 GPU能够支持同时配置vPC和vWS等多种用户应用负载类型。通过配置NVIDIA A16，服务器可支持多台高分辨率显示器（最多两台4K显示器或一台5K显示器）、多种格式的编解码器、更大的编码器吞吐量，从而为多个流媒体用户提供高质量的视频体验。NVIDIA A16能够让VDI用户拥有绝佳的体验，将远程工作提升至新境界。

  本期视频分享了虚拟化及GPU虚拟化的知识，以及能够支持GPU虚拟化的两款英伟达GPU企业级显卡NVIDIA A40、NVIDIA A16。

  下期视频将为大家带来NVIDIA AI Enterprise的精彩内容，敬请期待。