減小尺寸、重量和功耗 （SWaP） 的要求也影響著人工智能 （AI） 和機器學習 （ML） 設計。

“將商業(yè)和消費者人工智能加速器硬件技術轉化為軍用/航空平臺通常需要的可部署、堅固耐用、尺寸、重量和功率（SWaP）受限的系統(tǒng)”是一項挑戰(zhàn)，Abaco Systems（阿拉巴馬州亨茨維爾）首席軟件工程師David Tetley說。

減少的SWaP往往與基于云的解決方案沒有協(xié)同作用，這些解決方案似乎具有無窮無盡的虛擬空間供應。

不幸的是，現(xiàn)實情況是“許多軍事系統(tǒng)都受到SWaP的限制，這挑戰(zhàn)了當今AI / ML解決方案的假設，”風河（加利福尼亞州阿拉米達）航空航天與國防副總裁Ray Petty解釋說?！爱斀竦慕鉀Q方案通常是在云或企業(yè)環(huán)境中開發(fā)的，假設可用連接（如帶寬和延遲）以及可用的計算資源（如可擴展性、內(nèi)存和 CPU 靈活性）。

另一個挑戰(zhàn)是管理可能非常耗費資源的 ML 系統(tǒng)的資源。

值得慶幸的是，“我們看到最近獲得大量報道的大多數(shù)深度學習ML系統(tǒng)在訓練時都是非常資源密集型的，但在運行時并不是特別密集，”Charles River Analytics首席科學家Avi Pfeffer說?！斑@意味著如果它們非常適合該問題，它們是降低SWaP系統(tǒng)的不錯選擇;也就是說，有足夠的數(shù)據(jù)來訓練他們。

然而，在設計傳統(tǒng)上受SWaP約束的ML / AI密集型系統(tǒng)（如飛機）時，空間成為一個問題。

“我們一直致力于將人工智能應用于構建安全系統(tǒng)，例如用于檢測我們?yōu)榭哲娧芯繉嶒炇医ㄔ斓娘w機航空電子系統(tǒng)中運行的惡意軟件的系統(tǒng)，”Charles River Analytics（馬薩諸塞州劍橋）的首席科學家Terry Patten說。“我們發(fā)現(xiàn)，有關系統(tǒng)運行狀況的最佳信息來源之一，也是實時攻擊中緩解資源的最佳來源之一，是冗余，這對于減少SWaP的系統(tǒng)來說是有問題的。

在管理 SWaP 約束時，加固也可能很棘手。

“尺寸可能是最具挑戰(zhàn)性的制約因素之一，因為大型設備比小型設備更難加固，”Mercury Systems（馬薩諸塞州安多弗）首席產(chǎn)品經(jīng)理Devon Yablonski說?！按蠖鄶?shù)經(jīng)過高振動測試并以BGA形式提供的嵌入式部件都是低功耗部件，它們犧牲了其‘全尺寸’對應物的許多功能，而這些功能正是這些新的ML和AI應用程序所期望的功能。例如，當今許多處理器上的高帶寬內(nèi)存（HBM）無法很好地處理高溫，因此在嵌入式芯片上并不常見。對內(nèi)存的高速訪問對于ML和AI應用程序至關重要。

問題在于，用戶無法“在SWaP受限的系統(tǒng)中部署廣泛用于AI的高功率，服務器級CPU和GPU，因此我們需要使用移動級設備［因為它們的功耗更低，散熱設計更低］，”Tetley解釋說?！袄硐肭闆r下，這些設備包括特定的AI加速功能，可提供出色的每瓦IOPS ［每秒推理操作］。這方面的一個例子是 NVIDIA 圖靈類 GPU 和 NVIDIA Xavier SoC ［片上系統(tǒng)］ 上的深度學習加速器。此外，您需要確保通過使用 NVIDIA 的 TensorRT 等工具高度優(yōu)化您部署的神經(jīng)網(wǎng)絡（或“推理引擎”）。這確保了軟件針對目標嵌入式硬件架構進行了理想優(yōu)化，從而盡可能高效地運行。

通常，SWaP 要求與許多 ML 模型和解決方案不兼容。

Petty補充說，同樣重要的是要注意，“許多軍事系統(tǒng)的SWaP約束與這些假設不兼容，需要重構AI / ML解決方案?！叭欢貥嬇cAI / ML解決方案對工業(yè)控制，醫(yī)療和汽車等其他市場的適應是一致的，并且解決方案可以跨領域利用。

當然，在商業(yè)領域，人工智能/媒介與信息素養(yǎng)領域的統(tǒng)治君主“是世界上的Facebook、谷歌和亞馬遜，”Yablonski說?！八麄儗ψ钚』叽?、重量和功耗的要求有限，除了如果可以減少其中任何一個，他們可以構建更高效的數(shù)據(jù)中心。英特爾、英偉達、AMD等芯片供應商迎合了這些市場。盡管追求很重要，但防御的數(shù)量要低得多。要從商業(yè)領域獲得高性能芯片和產(chǎn)品，這些芯片和產(chǎn)品在我們的市場上具有生存能力，并考慮到功率限制（每臺計算機通常為100-200瓦）和尺寸限制，這是一項挑戰(zhàn)。

審核編輯：郭婷