在實體世界引進智慧 AI

September 26, 2022

Christina Cardoza

智能人工智能

供應鏈危機持續延燒，將國內貨物運輸系統的運作方式攤在陽光下，登上了主流新聞版面。顯而易見，這個數十年來運作順暢的系統，不太能因應過去這幾年出現的挑戰。過去迫切需要現代化、數位轉型和 AI 創新，現在也是，否則全國都將自食惡果。

技術解決方案供應商 Arrow 的雲端解決方案業務開發經理 Scott Chmiel，以及 Scalers.ai 的共同創辦人兼執行長 Steen Graham，正好能伸出援手。他們居於兩家公司之間，協助摸索客戶智慧物聯網合作夥伴生態系統，而且環境不僅侷限於智慧港口而已。各種產業皆可在實體世界部署 AI。產生的效益超越企業，甚至擴及整體社會。

企業在目前的數位轉型工作面臨了哪些挑戰？

Scott Chmiel：解決方案的複雜度大幅提高，所以挑戰也改變了。在過去，單一硬體或軟體便應有盡有，但現在多了雲端、複雜度提高，而且我們所增加的技術，無論從技術或開發觀點來看，都需要不同的技能組合。如今解決方案必須整合並部署至各不相同的現有客戶環境。現在連線裝置需要額外的作業安全性。此外，過去不可能的事，如今得以實現，例如機器學習和 AI。過去無解的業務問題，現在出現了解決的可能性。

Steen，你對這些努力有什麼看法？

Steen Graham：在實體世界部署人工智慧和物聯網是一大挑戰。以港口的情況為例。顯而易見，港口及其基礎架構都有數十年的歷史了，雖然各種既有的應用程式皆可順利運作，但您不妨考慮實作新技術。那麼到底該如何在既有的基礎架構部署這些雲端原生的方法，包括人工智慧，才能執行分析效率與監測 CO₂ 排放這類工作？同時從硬體和軟體的角度來看，將既有的基礎架構結合新的基礎架構，是推動產業轉型及解決供應鏈挑戰的關鍵。

目前的聯邦政府行政機構，大力支持港口現代化。然而，有趣的是，港口的管理單位其實是地方的市政府，因此這些地方首長的作為會對全國造成影響。此外，工會對這個情況也是至關重要。舉例而言，起重機操作是美國由來已久的港口工作。雖然將貨櫃從船上卸下的前端工作已經自動化，但是在卡車裝卸貨物這類工會掌控的人力作業職務，我們依舊有龐大的投資。因此，聯邦政府、地方市政府和工會這三方，全部都在當前這個危機舉足輕重。

企業若要在技術上做出有影響力的改變，該從何著手？

Scott Chmiel：第一步是瞭解他們想達成的業務成果。他們想達成什麼目標，哪些人是相關人員？以洛杉磯港口為例，公司不僅一家；還有市政府、貨櫃搬運人員、卡車司機，數十或數百名承包商，為了經營港口，所有人都必須與對方周旋。我們的解決方案側重於他們在安全性方面的挑戰，以及單純的快速追蹤。

Steen Graham：為了回答問題的第二部分，Scott 和我考慮的是某種不妥協的解決方案。從簡單的作業系統角度來看，Windows 和 Linux 這兩種作業系統在全球隨處可見。新式 AI 應用程式中的雲端原生工作負載是在 Linux 撰寫，但現有的工作負載和應用程式很多則是在 Windows 中所撰寫。透過在部分這類技術加入跨平台功能，我們能夠在現有的基礎架構修正 AI 應用程式，確保它們搭配使用時能更順暢。我們在這個解決方案採用的方式，其實就是疊加新式雲端原生屬性和 AI 功能。

推動這個跨平台互通性的因素是什麼？

Scott Chmiel：通常是既有的硬體。此外是技術，基礎架構可用於許多不同的解決方案，無論是智慧港口內或倉庫內的零售應用程式皆適用，而且存在的挑戰類型都相同，可以使用以及自訂或重新包裝相同的技術。這樣一來，既有的硬體就更有價值了，它們原本做不到的事，讓硬體更有價值。智慧港口這個例子增加的是安全性，零售業同樣也適用：起重機在倉庫移動之前，最好先確認移動的路線沒有可能擋路的人員。

Steen Graham：從技術觀點來看，透過基礎技術，我們顯然獲得了 Microsoft 與 Intel^® 的禮物。我們用 EFLOW 這個縮寫代表 Windows 上的 Edge for Linux，或是更精確來說，是 Windows 上的 Azure IoT Edge for Linux。我們之所以能在 Windows 和 Linux 享有不打折扣的能力，原因就在這裡。此外，Intel 透過整合式顯示晶片能力投資的硬體加速功能，是鮮為人知的一大福音，讓我們無須升級至昂貴的 GPS，便可在部署的 Intel CPU 執行這些工作負載。我們現在可以透過經濟實惠的現成技術，例如 Intel 的 NUC 平台以及 Windows 和 Linux，執行多個 AI 模型和多重攝影機摘要。這一系列出色的技術，讓我們得以部署這些新式工作負載，並確保工作負載能夠與既有的基礎架構互通。

EFLOW 如何用在港口的例子？

Steen Graham：EFLOW 是去年才推出的技術，所以我們仍在參與階段。從業務成果的角度來看，我們想解決的是與準備時間相關的瓶頸：貨櫃裝卸速度的作業技術指標。那麼，我們該如何將起重機的準備時間最佳化？起重機的裝卸速度為何？我們該如何確保卡車在正確的時間出現在正確的地方？同時為現場員工提供安全性更強的體驗。此外，我們還追蹤 CO₂ 排放，因此我們參考的另一項指標，就是許多港口目前搭配柴油起重機使用的混合式起重機效率為何。

EFLOW 還能解決其他哪些使用案例或挑戰？

Scott Chmiel：機會很多：運輸、工業和零售業只是幾個不同的垂直市場。我知道 Microsoft 和 Intel 都極為側重零售業：現有的機會就是執行工作負載整合，由一部機器同時完成監視錄影與銷售點的整合。或者可能有過去無法執行的新服務；交易若是有視覺元素，您可以從中產生何種價值？

程式碼和基礎技術皆可針對任何上述的垂直市場重新規劃用途。Microsoft 和 Intel 透過 OpenVINO^™ 提供的加速器和工具，已經為他們完成了許多工作。

Steen Graham：醫療保健是另一個可能的產業。如果觀察超音波這類醫療影像設備，許多超音波廠商都屬於 Windows 應用程式，不過他們有意加入新的 AI 功能。麻醉師有時很難找到患者血管就是一個例子。超音波設備可用來準確判斷靜脈的位置。備妥既有的 Windows 超音波設備，然後加上新式的深度學習。

我們還發現，利用電腦視覺偵測製程瑕疵的需求也很高，我認為這也是絕佳的使用案例。如果採用即時 AI 缺陷偵測，就能在製造流程及早發現有品質問題的產品。如果及早在流程解決這些問題，其實能減少執行剩下流程耗用的化石燃料。

可以請你們聊聊加入這個過程的夥伴關係嗎？

Steen Graham：Arrow 一向致力於找出讓夥伴關係發揮綜效的方式。因此，Scott 帶著展現這項基礎 EFLOW 技術價值的出色點子來找我們，而我們能夠利用 Intel 和 Microsoft 的技術，以及許多開放原始碼專案，建立解決方案程式碼。Scalers 的工作則是徹底瞭解如何將這一切整合至高擬真的企業 AI 解決方案，然後提供該解決方案，以及建立部署用的自訂 AI 模型。

Scott Chmiel：Arrow 以協調者與集合商的角色自居，包括整合不同的技術、服務或元件，或是協助設計。為了一手包辦端對端解決方案，一家有遠見或是面臨挑戰的公司，很難在公司內部備妥所有資源或技能組合。因此，Arrow 希望與終端使用者合作，並且引進合適的合作夥伴。我們不僅協助他們的終端使用者挑選合適的解決方案，更仔細檢視了該解決方案的使用壽命和整體生命週期。智慧港口不會在幾年內部署及完工。此外，它也應該要可以重複。正在開發該解決方案，或是正在整合這些環節的公司，能夠重新使用它，在整個生態系統創造更大的規模，並創造更高的價值。

關於 EFLOW 或這個主題，還有其他我們應該知道的事嗎？

Steen Graham：在我們討論開發與軟體工程設計成本時，撰寫整合這些夥伴關係的程式碼極為重要。雖然擁有優異技術的出色公司很多，但往往缺少連接 API 的單行程式碼，無法真正推動轉型。身為產業，我們真的必須一起克服部署挑戰，因為雲端的建構功能出色、極為經濟實惠，而且當今使用容易。在實體世界部署是挑戰之所在，同時也是持續學習、遷移學習和連續註釋的必要條件。

最後，雖然我們越來越擅長合成資料，以及用小型資料集建立 AI 模型，但如果真的希望讓社會進步，就必須能夠在良好的資料集建立高擬真的模型。此外，我們必須使用可解釋的 AI 進行，這樣我們才能瞭解它為了儘量達到包容且精確的目標，做出判斷的原因。

Scott Chmiel：我在與特定垂直市場的公司討論時，一向對於他們對於自己工作的瞭解感到驚奇，無論對方是負責管理倉庫、港口，或是監視錄影，抑或是在醫療界工作。他們的特定解決方案令人感到驚豔。由於這些解決方案越來越複雜，因此我希望大家知道，你們不必孤軍奮戰。建造單一用途裝置的時代已經過去了，光是顯像的 MRI 還不夠，現在的目標在於它如何與整間醫院整合。然而，公司不需要在過程中孤軍奮戰。此外，他們使用更複雜的解決方案時，確實無法孤軍奮戰。達成目標的門檻正逐漸下降，我們現在能夠解決過去無法解決的業務解決方案，這件事真是不可思議。