由美國頂級醫(yī)療中心和研究機構的專家組成了一個專家委員會，該委員會正在使用 NVIDIA 支持的聯(lián)邦學習來評估聯(lián)邦學習和 AI 輔助注釋對訓練 AI 腫瘤分割模型的影響。

聯(lián)邦學習是一種技術，能夠在不降低數(shù)據(jù)安全性或隱私性的前提下，利用來自不同數(shù)據(jù)源的數(shù)據(jù)，開發(fā)更準確、更通用的 AI 模型。借助這項技術，多家企業(yè)可在敏感數(shù)據(jù)不離開各自服務器的情況下，協(xié)作開發(fā) AI 模型。

威斯康星大學麥迪遜分校放射學副教授 John Garrett 表示：“由于隱私和數(shù)據(jù)管理方面的限制，在站點間共享數(shù)據(jù)并將數(shù)據(jù)匯總到一處正變得日益復雜，而影像 AI 的發(fā)展速度比研究機構簽訂數(shù)據(jù)共享合約的速度還要快。實際上，跟上這一趨勢的唯一辦法是采用聯(lián)邦學習，在多個站點同時構建和測試模型。聯(lián)邦學習已成為一個不可或缺的工具?！?/p>

Garrett 是美國醫(yī)學影像信息學會(SIIM)機器學習工具與研究小組委員會成員。該委員會由臨床醫(yī)生、研究人員和工程師組成，旨在推動 AI 在醫(yī)學影像中的發(fā)展與應用。NVIDIA 是 SIIM 成員，自 2019 年以來一直與該委員會就聯(lián)邦學習進行合作。

委員會主席 Khaled Younis 表示：“聯(lián)邦學習技術在符合 GDPR、HIPAA 等隱私法規(guī)要求的前提下，能夠增強數(shù)據(jù)的隱私性和安全性。此外，該技術還提高了模型的準確性和泛化程度?！?/p>

為了支持他們的最新項目，該研究小組(包括來自凱斯西儲大學、喬治城大學、梅奧診所、加州大學圣地亞哥分校、佛羅里達大學和范德堡大學的合作者)選擇使用 NVIDIA FLARE(NVFlare)。該開源框架包含強大的安全功能、先進的隱私保護技術和一個靈活的系統(tǒng)架構。

通過 NVIDIA 學術資助計劃，該委員會獲得了四個 NVIDIA GPU，這些 GPU 被分配給參與的研究機構，用于建立聯(lián)邦學習工作站。其他合作者也在云端和本地服務器中使用了 NVIDIA GPU，展現(xiàn)了 NVFLare 的靈活性。

破解聯(lián)邦學習的密碼

參與該項目的六個醫(yī)療中心分別提供了約 50 項醫(yī)學影像研究的數(shù)據(jù)，研究的重點是腎細胞癌(腎癌的一種)。范德堡大學計算機科學助理教授兼生物醫(yī)學數(shù)據(jù)表征與學習實驗室主任霍元愷(Yuankai Huo)表示：“聯(lián)邦學習的理念是在訓練過程中交換模型，而不是交換數(shù)據(jù)。”

在聯(lián)邦學習框架中，初始全局模型向客戶服務器發(fā)送模型參數(shù)。各個服務器使用這些參數(shù)來建立模型的本地版本，該版本在企業(yè)組織的專有數(shù)據(jù)上訓練而成。然后，各個本地模型的更新參數(shù)被發(fā)送回全局模型，并在全局模型中匯總，生成一個新的全局模型。如此循環(huán)往復，直到模型的預測結果不再隨著每一輪訓練而提高。

為了優(yōu)化訓練速度、準確性以及將模型訓練到目標精度水平所需的影像研究數(shù)量，研究小組嘗試了各種模型架構和超參數(shù)。

使用 NVIDIA MONAI

進行 AI 輔助注釋

在項目第一階段，模型使用的訓練數(shù)據(jù)均由人工標記。在下一階段，研究小組將使用 NVIDIA MONAI 進行 AI 輔助注釋，然后評估在 AI 幫助下分割的訓練數(shù)據(jù)與傳統(tǒng)注釋方法相比，模型性能有何不同。

Garrett 表示：“在通常情況下，聯(lián)邦學習活動最大的難點在于不同站點的數(shù)據(jù)并不完全統(tǒng)一。大家使用的影像設備不同，協(xié)議不同，對數(shù)據(jù)的標記也不同。我們的目標是通過使用 MONAI 對聯(lián)邦學習模型進行二次訓練，了解這是否能夠提高整體注釋的準確性。”

研究小組正在使用 MONAI Label，該圖像標記工具可用于開發(fā)定制 AI 注釋應用，以便減少創(chuàng)建新數(shù)據(jù)集所需的時間和精力。專家將先對 AI 生成的分割進行驗證和完善，然后再將其用于模型訓練。

人工注釋和 AI 輔助注釋階段的數(shù)據(jù)均托管在 Flywheel 上。這個領先的醫(yī)學影像數(shù)據(jù)和 AI 平臺已將 NVIDIA MONAI 集成到其產品中。

為了推動未來的工作，研究小組計劃在項目完成后公布他們的方法、帶注釋的數(shù)據(jù)集和預訓練模型。

Garrett 表示：“我們不僅要探索這些工具，而且還要公布我們的研究成果，讓醫(yī)療領域的其他人也能夠學習和使用這些工具。”

申請 NVIDIA 學術資助

NVIDIA 學術資助計劃通過為研究人員提供世界級的計算入口和資源，來推動學術研究?，F(xiàn)面向經認可的學術機構的全職教職員工開放申請，這些教職員工需使用 NVIDIA 技術來加速仿真與建模、生成式 AI 以及大語言模型等項目。

未來的申請周期將重點關注數(shù)據(jù)科學、圖形和視覺以及邊緣 AI(包括聯(lián)邦學習)領域的項目。