“分析”是一個非常普通的術語，用于關聯(lián)和消化原始數(shù)據(jù)以產(chǎn)生更有用的結果。分析算法可以簡單到就像數(shù)據(jù)規(guī)約或對一連串傳感器讀數(shù)求平均值，也可以復雜到就像最錯綜復雜的人工智能或機器學習 (AI/ML) 系統(tǒng)。如今，分析通常在云端執(zhí)行，因為它是最具可擴展性和成本效益的解決方案。但在未來，分析將越來越多地分散到云、邊緣計算和端點設備上，以利用它們改進的延遲、網(wǎng)絡帶寬、安全性和可靠性。在這里，我們將討論把分析功能分布到傳統(tǒng)的云邊界之外所涉及的一些架構和權衡。

分布式分析如何增值

簡單的分析包括數(shù)據(jù)規(guī)約、關聯(lián)和求平均值，結果是輸出一串比輸入數(shù)據(jù)小得多的數(shù)據(jù)。例如，一座大樓的淡水供應系統(tǒng)。為了優(yōu)化水泵和監(jiān)測消耗，了解系統(tǒng)中各點的壓力和流量可能很有價值。這會涉及到分布在輸配管道周圍的壓力和流量傳感器陣列。軟件定期詢問傳感器，調(diào)整泵的設置，并為大樓管理人員生成用水報告。但是，傳感器的原始讀數(shù)可能具有誤導性—例如，沖洗固定裝置時的瞬時壓降。分析算法可以對指定傳感器一段時間內(nèi)的讀數(shù)求平均值，并結合和關聯(lián)多個傳感器的讀數(shù)，以生成更準確、有用的管道狀況圖。所有這些讀數(shù)都可以發(fā)送到位于云端的分析系統(tǒng)，但如果傳感器自己做一些平均計算，讓本地邊緣計算機進行關聯(lián)和報告，這將是一個更高效的架構。這就是分布式分析，可以改善許多分析系統(tǒng)的效率、準確性和成本。

當采用人工智能/機器學習 (AI/ML) 技術時，分析會變得更加復雜。人工智能/機器學習通常分為兩個階段：

一個是建模階段。在這個階段，大量的數(shù)據(jù)被提取出來，為AI/ML系統(tǒng)生成一個模型

一個是推斷階段。在這個階段，將模型應用于系統(tǒng)中的數(shù)據(jù)流，以生成期望的結果（通常是實時的）

在當今的系統(tǒng)中，這些模型幾乎總是建在大型服務器場或云端，通常是離線部署。然后，將生成的AI/ML模型打包并發(fā)送到不同的系統(tǒng)，這些系統(tǒng)使用實時數(shù)據(jù)運行模型的推斷階段，生成所需的結果。推斷階段可以在云端運行，但最近一直在向邊緣轉移，以改善延遲、網(wǎng)絡帶寬、可靠性和安全性。在決定每個階段使用哪個級別的計算資源時，需要認真考慮各個權衡因素。

AI/ML的推斷階段

AI/ML的推斷階段相對容易分布在多個同級處理器上，或者沿處理層的層次結構上下分布。如果模型經(jīng)過預先計算，那么AI/ML算法使用的數(shù)據(jù)就可以在多個處理器之間進行劃分且并行計算。在多個同級處理器之間劃分工作負載帶來了容量、性能和規(guī)模優(yōu)勢，因為隨著工作負載的增加，可以調(diào)動更多的計算資源去承擔。它還可以提高系統(tǒng)的可靠性，因為如果一個處理器出現(xiàn)故障，鄰近的處理器仍然可以完成工作。推斷操作也可以在一個層次結構的多個層次之間進行劃分，也許算法的不同部分會在處理器的不同層次上運行。這讓AI/ML算法能夠以合乎邏輯的方式進行劃分，允許層次結構的每一級執(zhí)行最高效的算法子集。 例如，在視頻分析AI/ML系統(tǒng)中，攝像頭中的智能功能可以執(zhí)行自適應對比度增強，將這些數(shù)據(jù)交給邊緣計算機執(zhí)行特征提取，將其發(fā)送到鄰近的數(shù)據(jù)中心進行對象識別，最后，云端可以執(zhí)行高級功能，如威脅檢測或熱圖生成。這可以是一種高效的分區(qū)。

AI/ML算法的學習階段

對AI/ML算法的學習階段進行分布難度更大。問題是上下文的大小。為了準備模型，AI/ML系統(tǒng)需要大批量的訓練數(shù)據(jù)，并用各種復雜的學習階段算法對其進行消化，從而生成一個在推斷階段相對容易執(zhí)行的模型。如果在一個給定的計算節(jié)點上只有一部分訓練數(shù)據(jù)可用，算法在推廣模型時會遇到困難。這就是為何訓練通常在云端進行。在云端，內(nèi)存和存儲空間幾乎是無限的。但是，某些場景需要將訓練算法分布在多個同級計算節(jié)點上，或者在云-到邊緣的層次結構中上下分布。特別是，邊緣學習能夠從附近的傳感器收集大量的訓練數(shù)據(jù)，并在沒有云參與的情況下利用數(shù)據(jù)，這樣可以改善延遲、可靠性、安全性和網(wǎng)絡帶寬。為了解決這些挑戰(zhàn)，目前正在開發(fā)先進的分布式學習算法。

結論

AI/ML是幾乎所有電子系統(tǒng)未來必須具備的重要能力。這些系統(tǒng)的推斷和訓練能力如何在計算資源的層次結構中進行劃分？存在哪些選項？了解這些選項是我們未來成功的關鍵。

審核編輯：郭婷