SR-IOV：釋放 GPU 在工業物聯網的威力

July 5, 2023

Brandon Lewis

工業物聯網

圖形處理器（GPU）已成為工業物聯網（IIoT）的重要資源。嵌入式解決方案供應商 DFI 的解決方案產品經理 Waterball Liu 表示，凡是需要高度密集運算的應用程式，例如機器視覺處理、資料分析或機器學習應用程式，皆可從 GPU 受益。

然而，在單一系統結合上述這類要求嚴苛工作負載的多功能平台，格外迫切需要效能。將圖形顯示這類整合式系統中的常見功能加入組合時，GPU 甚至更顯關鍵。

此時的難題於是變成如何分享 GPU。

新式工業物聯網系統通常利用虛擬化或容器結合工作負載，但這兩種技術都在 GPU 層級形成效能限制瓶頸。追根究底都與複雜度有關。久而久之，虛擬技術逐漸擴大範圍，包含了記憶體、I/O 裝置、網路與儲存空間，但是並非所有硬體元件都能輕易虛擬化。

圖形技術正是最好的例子：新式 3D 彩現管道錯綜複雜、不同製造商的 GPU 缺乏統一的指令集標準，加上 3D 應用程式開發介面高度可程式化，因此 GPU 驅動程式變得與高階語言編譯器類似，隨之也提高了 GPU 虛擬化的技術需求。

工業物聯平台開發者的主要目標是以最低成本和資源使用率，讓單一系統發揮更高效益，因此在他們眼中，這些障礙往往會使得基於 GPU 技術建置工作負載整合系統得不償失。

SR-IOV 在 GPU 虛擬化的角色

然而，如果問題無法解決，科技必然會找到解決之道。

舉例來說，PCIe 標準 Single-Root I/O Virtualization (SR-IOV) 將實體裝置分割為虛擬功能，定義了分享實體裝置的方法。SR-IOV 這個虛擬化網路介面卡的方式，使用廣泛，也就是說它提供的程式設計模型，經過充分理解及徹底的現場測試。

然而，在新情境將這項技術應用於 GPU 時，每個虛擬機器（VM）或容器皆可存取圖形功能，並且締造近乎原生的效能。

Liu 說明：「SR-IOV 可降低虛擬化環境的例行成本。」「虛擬化應用程式幾乎可享有 100% 的 GPU 效能。」

SR-IOV 實際示範：開創效能新局的助力

工業工作負載整合需要的高效能 GPU，過去只能透過昂貴的獨立的晶片獲得，平添了不必要的工業系統成本。然而，現今的主流處理器，例如第 12 代 Intel^® Core^™ 嵌入式處理器，在其整合式顯示晶片引擎提供了 SR-IOV，而且效能非凡。Liu 表示：「Intel^® 處理器的整合式 GPU，為工業運算提供了符合成本效益的可靠解決方案，不需要額外使用獨立 GPU。」

這個簡化的 GPU 加速方式，為最佳化工業工作負載創造了全新的可能性。Liu 以檢測系統為例。他表示：「這些系統處理 AI 相關工作時，例如缺陷偵測與影像識別，需要龐大的運算效能。透過整合式顯示晶片與 SR-IOV，這些系統可在複雜度最低的情況下，高效執行這些應用程式。」

舉例來說，配備 SR-IOV 的第 12 代 Core 處理器，最多可支援四部獨立顯示器及七個虛擬化功能。圖 1 描繪七部 VM（上限）可如何獨立存取這些功能。