嵌入式交换网固件处理交换网的低级配置和管理，系统由Microchip的ChipLink调试和诊断实用程序管理。      

四个GPU最初分配给主机1，PAX结构管理器显示在结构中发现的所有设备，其中GPU绑定到Windows主机。主机上的结构不再复杂，所有GPU就像直接连接到虚拟交换网一样。随后，结构管理器将绑定所有设备，Windows设备管理器将显示GPU。主机将交换网视为下行端口数量可配置的简单物理PCIe交换网。

一旦CUDA发现了四个GPU，点对点带宽测试就会显示单向传输速率为12.8 GBps，双向传输速率为24.9 GBps。这些传输直接跨过PCIe结构，而无需通过主机。如果运行用于训练Cifar10图像分类算法的TensorFlow模型并使工作负载分布在全部四个GPU上，则可以将两个GPU释放回结构池中，将它们与主机解除绑定。这样可以释放其余两个GPU来执行其他工作负载。

与Windows主机一样，Linux主机也将交换网视为简单的PCIe交换网，无需自定义驱动程序，而CUDA也可以发现GPU，并在Linux主机上运行P2P传输。性能类似于使用Windows主机实现的性能。

GPU点对点传输带宽事务类型主机1平均带宽主机2平均带宽单向P2P12.8 GBps12.7 GBps双向P2P24.9 GBps24.6 GBps下一步是将SR-IOV虚拟功能连接到Windows主机，PAX将此类功能以标准物理NVM设备的形式提供，以便主机可以使用标准NVMe驱动程序。此后，虚拟功能将与Linux主机结合，并且新的NVMe设备将出现在模块设备列表中。两个主机现在都可以独立使用其虚拟功能。

虚拟PCIe交换网和所有动态分配操作都以完全符合PCIe规范的方式呈现给主机，以便主机能够使用标准驱动程序。嵌入式交换网固件提供了一个简单的管理接口，这样便可通过成本低廉的外部处理器来配置和管理PCIe结构。

设备点对点事务默认情况下处于使能状态，不需要外部结构管理器进行额外配置或管理。

PCIe交换网结构是一种能够充分利用CPU巨大性能的绝佳方法，但PCIe标准本身存在一些障碍。不过，可以通过使用动态分区和多主机单根I/O虚拟化共享技术来解决这些难题，以便可以将GPU和NVMe资源实时动态分配给多主机系统中的任何主机，从而满足机器学习工作负载不断变化的需求。

(素材来源：eccn和ttic.如涉版权请联系删除。特别感谢）