在醫療保健中提升 AI 資料安全和協作

September 7, 2023

Poornima Apte

人工智能數據安全

Mary Beth Chalk 覺得自己很幸運。

Chalk 是乳腺癌一期的倖存者，她說她很幸運，因為她在乳房 X 光機上的位置很好，也很幸運，因為放射科醫生能夠發現針頭大小的腫瘤緊貼胸壁。

但她不想把這樣的改變人生的診斷留給運氣。相反的，Chalk 熱衷於在醫療保健中使用 AI 來改善所有患者的結果。因此，她共同創立了 BeeKeeperAI，是一家初創公司，旨在促進演算法開發人員和醫療機構之間的安全協作。BeeKeeperAI 是 Chalk 在加州大學舊金山分校 (UCSF) 的前一份工作成果，她當時專注於需要存取和處理現實世界、受保護的健康資訊 (PHI) 的產業合作。

在 UCSF，AI 開發和實施的障礙顯露無遺。在那裡，Chalk 注意到創新取決於醫療機構和演算法開發人員之間的合作。然而，即使合作是可能的，也需要極長的時間，因為擔心知識產權 (IP) 和保護 PHI 的隱私法規。

Chalk 說，這種瓶頸是令人遺憾的，因為人工智慧在醫療保健領域具有巨大的創新潛力 — 能在早期階段檢測出乳腺癌的演算法只是其中的一小部分。

機密計算確保 AI 資料安全

Chalk，BeeKeeperAI 的聯合創始人兼首席商務官，共同創立了該公司，透過利用機密計算，一種以硬體為先的安全方法，來幫助減少 AI 開發的資料存取障礙。

BeeKeeperAI 的嵌入式機密計算軟體提供一種解決方案，在儲存、傳輸和計算期間，資料和知識產權都得到了完全保護。機密計算的運作原理是建立一個完全認證的可信執行環境 (TEE)。TEE 將處理器和記憶體中的資料和演算法隔離，並使用硬體加密金鑰來維持總記憶體加密。在這些機密環境中進行計算，保護資料和知識產權。

為人工智慧合作鋪平道路

EscrowAI 是 BeeKeeperAI 的零信任協作平台。它解決了該產業常面臨的兩個痛點：安全處理病患健康資料和保護知識產權。Chalk 表示：EscrowAI 讓資料持有者和演算法開發人員可以「一鍵輕鬆」地合作。平台的另一個優點是提供全面的稽核合規文件。Chalk 補充：「平台上的每個動作都會被記錄和存檔，以便完整追溯」。

如此資料安全的證明，對於證明遵守各國隱私保護法規，以及收集支援醫療器材、數位療法和藥物上市許可申請的證據，是至關重要的。在內部，該解決方案整合了 Fortanix 的政策和密碼金鑰管理功能。

Intel^® 軟體保護擴充（Intel^® SGX）直接內建於 Intel^® Xeon 可擴充處理器，可讓您建立稱為「飛地」的隔離可信執行環境。Chalk 表示：「我們從一開始就是 Intel SGX 的使用者，因為它在執行期間可以確保演算法和資料的保護。而且，這對我們來說是一個競爭優勢。」「飛地可以消除虛擬機作業系統、虛擬機管理員甚至 BeeKeeperAI 的任何存取。這樣就可以防止任何外部干擾。」

Chalk 很感激Intel 提供的資助，讓公司在團隊仍在加州大學舊金山分校時，就能進行設計驗證。Chalk 表示：「Intel 一直以來都是我們早期和重要合作夥伴。」

機密運算使用案例

醫療產業對 AI 實施的障礙非常熟悉，因此解決方案已經被討論了一段時間。例如，人工合成資料，具有與現實世界資料相同的特徵，且不會泄露任何資訊，已被吹捧為解決隱私和安全挑戰的一種方法。

但 Chalk 表示，合成資料完全不足。她指出，舉例來說，當你打亂病人資料時，你會引入與現實世界資料不一致的雜訊。Chalk 又說：「此外，在關鍵應用中，你需要一個經過驗證和在現實世界資料上測試的演算法。」「我們不會信任一個主要基於合成資料的癌症檢測演算法能夠準確地完成其工作。」

Chalk 並不相信，在沒有保密計算的情況下，我們會看到醫療保健領域大規模採用 AI。但是隨著保密計算的發展，新的可能性也隨之出現，例如 BeeKeeperAI 幫助 Novartis 解決了與一種罕見的兒童疾病相關的挑戰。醫療保健公司開發了一種演算法，但需要在現實世界資料集上驗證它。除了熟悉的隱私問題外，Novartis 還面臨另一個問題：資料集僅限於 27 名完全獨特的患者，因此任何程度的去識別化都會破壞演算法的測試能力。

BeeKeeperAI 的 EscrowAI 解決方案幫助 Novartis 解決了這些挑戰，並確保資料永遠不會被看到，相關的智慧財產權也得到了保護。諾華在該領域的研究取得了進展。Chalk 表示：「這是一個非常強大的示範，展示了未來的可能性。」

Chalk 也對保密計算在緩解 HIPAA 合規性相關的擔憂方面的潛力感到興奮，因為患者資訊永遠不會被暴露、永遠不會被看到，並且始終在資料管理員的控制之下。Chalk 希望這樣的保密計算能夠在未來說服立法者修改 HIPAA。