嚴苛環境中的 AI 與邊緣伺服器
物聯網邊緣不斷成長,但不一定變得更有智慧。更多的感應器代表有更多的資料,但這情況未必能讓這些資料更有價值、可據以行動,甚至有具關聯性。為了達到這些目的,必須更快速地將資料轉換成有用資訊。這需要將運算智慧功能與分析能力延伸到邊緣上。
對自動化、航空和國防工程來說,資料過載是一種習以為常的狀況。大型渦輪機、幫浦和其他設備可能在幾個小時內就會產生數 TB 的資料。如果沒有高效能的邊緣運算能力,這樣的大量資料會過於雜亂,並隨著時間失去價值。
開發者在設計邊緣分析功能時,面對的挑戰包括整合 IT 和 OT、處理時需要均衡的每瓦效能 (PPW),以及強固的設計需求。
生命週期較長的應用程式需要在遠端邊緣部署強大的智能,而嵌入式微伺服器就是適合的解決方案。
適合物聯網邊緣的架構
隨著 SoC 開始在單晶片上整合更多系統功能,嵌入式微伺服器也隨之誕生。這讓「輕型伺服器」平台能部署在更多樣化的環境中。
但傳統的微伺服器無法滿足真正的邊緣智慧功能需求,即:
- 工作負載整合。低延遲邊緣分析代表直接與感應器和其他輸入裝置對接。在講求大小與耗電量的應用中,工程師需要將這所有功能整合至同一個平台上。若 OT 和 IT 軟體位於同一個系統上,則必須有硬體虛擬化與安全關鍵監管軟體。
- 確定性的 IT 與 OT 通訊能力。微伺服器需要存取即時運作資料以執行嵌入式控制任務,同時要支援非確定性的企業應用程式。但需要具確定性、以 IP 為基礎的連線能力,才能讓效率最大化並達到低延遲。
- 強固設計。邊緣微伺服器必須能承受廣泛的溫度範圍、衝擊與震動,以及其他可能影響應用資料或裝置本身的狀況。
伺服器等級的嵌入式技術
伺服器級嵌入式處理器等解決方案經過大幅度的強化,可滿足這些不斷增長的需求。SoC 提供企業級的效能、網路功能及虛擬化能力,加上傳統的嵌入式環境與生命週期支援。16 核心、16 執行緒的 Intel Atom® 處理器 C3958 便是一個範例。
Atom C 系列最顯著的特點,就是它的運算效能。此處理器的散熱設計功率 (TDP) 僅 31 W,卻能為邊緣分析提供充足的運算能力。相較之下,八核心的 Intel® Xeon® D 處理器的 TDP 則是 35 W。
但使這個裝置能成為伺服器級嵌入式處理器的原因,是其虛擬化支援能力。Intel® 虛擬化技術 (Intel® VT-x) 提供硬體協助,透過運用監管程式,安全地分割 IT 與 OT 軟體。這也是 Intel® Virtualization Technology for Directed I/O (Intel® VT-d) 的基礎。
Intel VT-d 是 VT-x 的延伸,可為虛擬機器配置 I/O 頻寬。這能讓虛擬化作業系統與應用程式透過 VMM/監管程式存取資源時,避免折損輸送量效能(圖 1)。
最後,為了使邊緣微伺服器平衡 IT 和 OT 工作負載,確定性的乙太網路則是改變規則的重要角色。以 IEEE 1588 精確時間協定 (PTP) 為基礎,確定性的乙太網路使感應器與致動器能偵測時間,以提供 IP 通訊。
這也有助於同步在運作層級與企業軟體之間流通的應用程式資料。配置了足夠的頻寬,確定性的乙太網路便能提供可靠、低延遲的通訊,支援即時的邊緣分析。
若要進一步瞭解乙太網路 TSN 的詳細資訊,請參閱時效性網路:炒作 vs. 現實。
更小但更強大的標準
這些嶄新技術為微伺服器提供邊緣分析所需的效能。
其中一個解決方案為 VersaLogic Corp. 所推出的 Grizzly VL-ESU-5070。Grizzly 是一種 COM Express Extended 嵌入式伺服器單元 (ESU),採用 Atom C3958 處理器(圖 2)。
這是 155 公釐 x 110 公釐的 ESU 為雙主機板解決方案,結合運算模組與載板。COM 機板的處理器側裝有散熱板,確保能在高溫環境中有效散熱。
即使採用多主機板架構,Grizzly 平台還是符合 MIL-STD-202H 衝擊與震動要求,可部署於極端嚴苛的環境中。
Grizzly 整合了 128 GB 的 ECC 記憶體,確保在嚴苛環境中的資料可靠度。這有助於對抗在嚴苛部署環境中可能會發生的單位元錯誤。
VersaLogic Corporation 產品經理 Bob Buxton 說:「發生單位元錯誤的原因通常是因為記憶體位元翻轉,而不是硬體的緣故。這通常為放射性來源所導致,像是 α 粒子或宇宙射線。因此,在飛行器部署,以及高海拔、長航程的無人機部署中,ECC 記憶體格外重要。」
主機板亦具備 M.2 插槽,以供額外的非揮發性儲存設備使用。
Grizzly 具有兩個 10 GbE 與四個 1 GbE 連接埠,皆支援 IEEE 1588 精確時間同步。這讓邊緣微伺服器可在資料流量流程中維持可靠、確定性的通訊。兩個 1 GbE 介面為 PoE 連接埠,可為攝影機、HMI、無線存取點等多種設備供電。
Buxton 繼續說道:「10 個 Gigabit 乙太網路連接埠可連接 IT 網路,並透過網路連接到雲端。Gigabit 乙太網路連接埠可在網路的 OT 端運作。因此,Grizzly 當然也具有可用於連接 OT 端之感應器與制動器的 GPIO。」
而可支援 Windows 和 Linux,也意味著開發者可輕易運用上述的虛擬化技術優勢。
輕鬆駕馭邊緣 AI
當邊緣擁有更多智能,組織便能找到新方法,收集更優異的資料。以 Grizzly 等平台為基礎的邊緣微伺服器架構,提供了一種移轉的進化路徑。
Buxton 解釋:「實際上,AI 推斷可在多種裝置上進行。我們現在已經可以在 Intel Atom 產品上進行這樣的運作,因此 Grizzly C 系列上的 16 核心應能輕鬆處理這樣的工作負載。」
在需要更多效能處理 AI 與分析工作負載的情況下,可於 Grizzly 其中一個內建插槽上安裝額外的處理器,例如 mini-PCIe 卡上的 Intel® Myriad™ 裝置。
從軟體角度來看,整合於 Intel Atom C3958 中的虛擬化技術可確保未來能順利新增、更新或取代較新的企業應用程式,而不會影響到現有的應用程式。透過 Intel 和 VersaLogic 的長生命週期支援,將這些功能設計至嵌入式微伺服器內,可將平台的使用壽命延長許多年。
邊緣分析已能運用「伺服器等級的嵌入技術」。您準備好掌握這項優勢了嗎?