加速開發人員的旅程：邊緣 AI
建構在邊緣執行的 AI 應用程式或看似一項難以應付的工程。但透過如 Intel® OpenVINO™ 工具組 2022.1 般適當的開發工具與平台，開始、簡化您的工作，並部署實際生活解決方案其實很容易。
為了深入研究邊緣 AI 的作業及業務價值，我和 Intel 的網路與邊緣組中 OpenVINO 開發人員工具副總裁阿當．邦恩斯（Adam Burns）開展了對話。邦恩斯談到把新功能帶入 OpenVINO 2022.1，讓開發人員更輕鬆，可專注在建構他們的應用程式的策略。我們的對話涵蓋該從何著手，到如何解決 AI 開發人員的最大挑戰。
首先我們一同討論開發人員在打造人工智慧解決方案時應該具備什麼知識。
歸根究底，邊緣是產生作業資料的地方。它位於商店或是餐廳，在您試圖為購物者或消費者最佳化體驗的地方。在醫學影像中心，它位於拍攝 X 光的地方。或處於一家想要提高產能及製造效率的工廠。
然後您得看看 AI 如何與現有的應用程式結合。舉例來說，在工廠裡，您有在組裝線上執行部分作業的機器。您可以使用來自該應用程式的資料進行目視檢查，並確保商品品質。或者可以使用音和資料型機器學習，來監測電腦健康狀況並預防故障。在這個組合下，您可以將資料用於應用程式，再用它來增強系統正在執行的事項。
邊緣五花八門。您有不同的機器尺寸、成本和可靠度期望。因此，當我們思考有關邊緣 AI 的事時，我們也在考慮如何解決有多種應用程式、外型規格和顧客需求的問題。
在 OpenVINO™ 2022.1 版本背後的策略和思維是什麼？
我們首次推出 OpenVINO 時，許多的邊緣人工智慧應用程式將重點放在電腦視覺上。
從那時候起，我們就與數以千計的開發人員合作並聽取他們的意見。我們加進此版本的有三大內容。
最重要的是讓開發人員易於使用。全球有數百萬名開發人員使用諸如 PyTorch、TensorFlow 或 PaddlePaddle 等標準的人工智慧框架，而我們希望工具在使用上更方便。舉例來說，某人從這些框架中抽出一個標準模型，希望將其轉換，好在各種不同的平台上使用。我們已簡化並更新我們的 API，把它變得和這些框架非常相似，開發人員也感覺格外熟悉。
其次，我們在邊緣有一組廣泛的模型和應用程式。可以是音訊、自然語言處理（NLP），或是電腦視覺。OpenVINO 2022.1 中非常重視啟用這些使用案例，並真正提高橫跨這各式系統的效能。
第三是自動化。我們希望開發人員能在他們選擇的裝置或環境上專心打造應用程式。OpenVINO 2022.1 自動偵測您正使用哪類平台、哪種模型，並決定該系統的最佳設定，而不是需要大量參數來真正調節並獲得最佳效能。如此一來，即使沒有最佳化專業知識，開發人員也能在各種系統中輕鬆部署。
您可以分享更多有關音訊和 NLP AI 現時如何應用的資訊嗎？
先以一個客戶例子說起，然後再來聊邊緣吧。今天，許多人都使用視訊會議平台。在此背後，那些平台在處理我們所說的內容，讓我們能夠在需要時提供隱藏字幕以提供清晰度和協助。那就是自然語言處理。
它們也進行噪音抑制。如果有人來我家工作，而我身後有一台高速風箱，視訊會議平台會盡量補捉我的聲音，把其他雜音降到最低。
我們在看待邊緣時，類似類型的工作負載至關重要。在餐廳自動點餐，在零售商店自動訂購，始終是一大重點。NLP 可用於處理會進入一間免下車餐廳的訂單，確保他們準確取得訂單，然後向顧客顯示。
音頻處理可在工廠用來衡量機器的健康狀況，尤其是在馬達和傳動裝置等方面。您可以在多種類型的設備上放置音訊訊號，並且可以偵測到表示故障或異常的某些音訊特徵。
因此，您會開始透過電腦視覺發現更多缺失；同時，您的音訊特徵正在偵測馬達的異常情況。那是一個標記，標示潛在修復或啟動某類修正行動。
現今的開發人員在建構 AI 應用程式時所面對最大的挑戰是什麼？
其中一個主要問題是，許多圍繞 AI 和現有模型的研究都在雲端環境上建構，您擁有幾乎無限的計算。如今在邊緣，許多開發人員是在受限的環境中工作。
您如何讓應用程式與功能不再只是紙上談兵的書面研究，而是實際投入部署？我們正在做的諸多努力之一是讓它具備高效和經濟實惠的特點，以便在邊緣執行，讓您從部署中獲得的價值大於部署成本。OpenVINO 讓開發人員能夠利用部分最先進的 AI 應用程式，但以足以在邊緣上真正部署的效率利用。
對希望學習更多、實踐更多的開發人員來說，他們可從哪裡開始？
請從 openvino.ai 開始著手。那裡詳列了入門指南，逐步說明模型最佳化、存取 Jupyter Notebook、不同類型的應用程式，以及代碼範本。還有，您當然可以免費下載 OpenVINO。
對於想要在託管環境中工作或想在不同類型的 Intel 系統中進行原型設計的人，我們有一個 IoT DevCloud。您可以在幾分鐘內登入並使用 OpenVINO 執行工作階段。無論是最佳化網路還是在資料集上執行特定類型的應用程式，那些筆記本和代碼範本的存取都相同，讓人可立即著手做事。人們可以存取大量不同的模型類型和應用程式，也能使用自己的樣本資料。
最後一項方法是我們的邊緣人工智慧認證計畫。它與教授邊緣 AI 的應用更息息相關，同時您會使用 OpenVINO 做為工具。
我認為這三處都是絕佳的起點，具體取決於您在開發過程中所處的位置。
您還有其他想要補充的嗎？
在邊緣產生資料的應用程式何其多。而那些資料可透過結合人工智慧來促進節省成本、提高客戶體驗或改善運作效率。OpenVINO 就是從營運的角度考量已在邊緣運作的東西，並透過 AI 對其增強。
今天的許多 AI，尤其是雲端的，都部署在昂貴的加速器上。在很多案例中，這些解決方案不是會造成過熱，就是所費不貲。OpenVINO 透過調整這些 AI 工作負載和這些 AI 網路，在標準現成的 Intel CPU 上有效執行來解決那個問題，而那些 CPU 現時擁有強大的 AI 效能，而且遍佈全球的部署中，亦即無需購買額外的東西。這開啟了一系列嶄新的機會，幾年前您無法部署這些應用程式，因為它們的效率不夠高，或者成本效益不足。
我們正試圖透過 OpenVINO 將更多的開發人員帶到邊緣，確保在這些技術上盡可能地投資，我們認為這些技術在客戶體驗、節省成本、改良製造和獲得更多商品方面皆價值匪淺。
從這個角度來看，我們正嘗試使用 OpenVINO 解決兩件事。其中是使其經濟實惠，以便部署。然後透過開發人員的角度使其更易於使用，進而使人工智慧真正地普及化，讓更多開發人員得以參與，並建立和部署這些應用程式。