隨著在邊緣部署人工智能應(yīng)用程序的增長(zhǎng)， IT 組織正在尋找部署和管理其邊緣計(jì)算系統(tǒng)和軟件的最佳方式。

NVIDIA Fleet Command 通過將 NVIDIA-Certified Systems 轉(zhuǎn)化為安全邊緣設(shè)備，并在幾分鐘內(nèi)將其連接到云，為任何規(guī)模的企業(yè)帶來安全邊緣 AI 。在云中，你可以從 NGC Catalog 或你的 NGC 私有注冊(cè)中心部署和管理應(yīng)用程序，通過無線方式更新系統(tǒng)軟件，并通過瀏覽器和互聯(lián)網(wǎng)連接遠(yuǎn)程管理系統(tǒng)。

為了幫助組織測(cè)試 Fleet Command 的好處，您可以使用 NVIDIA LaunchPad 測(cè)試產(chǎn)品。通過精心策劃的實(shí)驗(yàn)室， LaunchPad 讓你可以使用專用硬件和 Fleet Command 軟件，這樣你就可以在邊緣地帶完成部署和管理人工智能應(yīng)用程序的整個(gè)過程。

在這篇文章中，我將帶你參觀 LaunchPad 上的 Fleet Command 試用版，包括申請(qǐng)者的詳細(xì)信息、完成策劃的實(shí)驗(yàn)室體驗(yàn)需要多長(zhǎng)時(shí)間，以及接下來的步驟。

誰應(yīng)該試試艦隊(duì)司令部？

Fleet Command 是為負(fù)責(zé)管理多個(gè)邊緣位置的人工智能應(yīng)用程序的 IT 和 OT 專業(yè)人員設(shè)計(jì)的。該產(chǎn)品的簡(jiǎn)單性允許任何技能水平的專業(yè)人士輕松使用。

策展實(shí)驗(yàn)室將完成演示應(yīng)用程序的部署。對(duì)于即將進(jìn)行 edge 項(xiàng)目的用戶，演示應(yīng)用程序可用于測(cè)試 Fleet Command 的功能，但仍需在現(xiàn)場(chǎng)進(jìn)行全面測(cè)試。

Fleet Command 實(shí)驗(yàn)室體驗(yàn)旨在部署和管理邊緣的人工智能應(yīng)用程序。 NVIDIA LaunchPad 提供了其他實(shí)驗(yàn)室，用于使用 NVIDIA Base Command 管理訓(xùn)練環(huán)境， NVIDIA 人工智能企業(yè) 用于從企業(yè)數(shù)據(jù)中心優(yōu)化人工智能的開發(fā)和部署。

Fleet Command 策劃的實(shí)驗(yàn)室包括什么？

在本次試驗(yàn)中，您充當(dāng)車隊(duì)指揮系統(tǒng)管理員，部署計(jì)算機(jī)視覺應(yīng)用程序，用于在交叉口清點(diǎn)車輛。整個(gè)審判大約需要一個(gè)小時(shí)。

在 NGC 中訪問艦隊(duì)司令部

Fleet Command 可以通過 NGC 從任何地方訪問，這是一個(gè) GPU 優(yōu)化的人工智能軟件中心，允許管理員遠(yuǎn)程管理邊緣位置、系統(tǒng)和應(yīng)用程序。

管理員會(huì)自動(dòng)將 Fleet Command 添加到 NGC 控制臺(tái)。

創(chuàng)建邊位置

Fleet Command 中的位置代表安裝物理系統(tǒng)的真實(shí)位置。在實(shí)驗(yàn)室中，您可以創(chuàng)建一個(gè)邊緣位置，但客戶可以在生產(chǎn)中管理數(shù)千個(gè)位置。

要添加新位置，請(qǐng)選擇 Add Location 并填寫詳細(xì)信息。選擇可用的最新版本。

圖 1 。添加一個(gè)由NVIDIA 車隊(duì)司令部管理的位置

添加一個(gè)邊緣系統(tǒng)

接下來，向位置添加一個(gè)系統(tǒng)，它代表邊緣的物理系統(tǒng)。完成此步驟將生成一個(gè)代碼，您可以使用該代碼使用 Fleet Command 操作堆棧在現(xiàn)場(chǎng)安全地配置服務(wù)器。然后選擇剛剛創(chuàng)建的位置并選擇 Add System 。

圖 2 。將邊緣系統(tǒng)添加到位置

添加系統(tǒng)名稱和說明以完成該過程。

將系統(tǒng)添加到某個(gè)位置后，您將獲得一個(gè)生成的激活碼，用于將艦隊(duì)命令與現(xiàn)場(chǎng)的物理系統(tǒng)配對(duì)。

圖 3 。生成激活碼，將 Fleet Command 中的系統(tǒng)連接到邊緣服務(wù)器

將 Fleet Command 連接到 LaunchPad 服務(wù)器

NVIDIA LaunchPad 提供了一個(gè)系統(tǒng)控制臺(tái)，用于訪問與試用相關(guān)的服務(wù)器。按照提示完成安裝。初始設(shè)置后，系統(tǒng)會(huì)提示輸入在 Fleet Command 中創(chuàng)建系統(tǒng)時(shí)生成的激活碼。

圖 4 。將邊緣服務(wù)器與 Fleet Command配對(duì)

輸入激活碼后，系統(tǒng)將完成與車隊(duì)命令的配對(duì)。 Fleet Command 用戶界面中的復(fù)選框顯示服務(wù)器正在運(yùn)行并準(zhǔn)備進(jìn)行遠(yuǎn)程管理。

圖 5 。邊緣服務(wù)器的完整配對(duì)，現(xiàn)在可以通過 Fleet Command 進(jìn)行控制

部署人工智能應(yīng)用程序

現(xiàn)在，本地安裝程序已將系統(tǒng)與 Fleet Command 配對(duì)，您可以部署 AI 應(yīng)用程序。應(yīng)用程序可以托管在 NGC 私有注冊(cè)表上，也可以直接托管在 NGC 目錄上。

圖 6 。將來自 NGC 的應(yīng)用程序添加到該位置

人工智能應(yīng)用程序使用 Helm 圖表進(jìn)行部署， Helm 圖表用于定義、安裝和升級(jí) Kubernetes 應(yīng)用程序。選擇 Add Application 并在提示中輸入信息。

現(xiàn)在應(yīng)用程序已在 Fleet Command 準(zhǔn)備就緒，可以部署到一個(gè)或多個(gè)系統(tǒng)上。通過選擇創(chuàng)建的位置和應(yīng)用程序，創(chuàng)建部署，確保選中啟用應(yīng)用程序訪問復(fù)選框。

圖 7 。創(chuàng)建部署

現(xiàn)在，應(yīng)用程序已部署在服務(wù)器上，您可以在試用應(yīng)用程序中查看在示例視頻數(shù)據(jù)上運(yùn)行的應(yīng)用程序。

圖 8 。用于計(jì)算汽車數(shù)量的計(jì)算機(jī)視覺應(yīng)用程序正在生產(chǎn)中

就這樣。我現(xiàn)在已經(jīng)向您介紹了連接到邊緣物理系統(tǒng)、創(chuàng)建部署以及將 AI 應(yīng)用程序推送到邊緣服務(wù)器的端到端過程。在不到一個(gè)小時(shí)的時(shí)間里，試驗(yàn)從斷開連接的遠(yuǎn)程系統(tǒng)發(fā)展到完全管理、安全的遠(yuǎn)程邊緣環(huán)境。

下一步

Fleet Command 是一個(gè)強(qiáng)大的工具，可以在不影響安全性、靈活性或規(guī)模的情況下簡(jiǎn)化邊緣計(jì)算基礎(chǔ)設(shè)施的管理。

關(guān)于作者：

Amanda Saunders 在 NVIDIA 負(fù)責(zé) Edge 和企業(yè)計(jì)算解決方案集團(tuán)的 Edge AI 產(chǎn)品營(yíng)銷。她為醫(yī)院、商店、倉庫、工廠等帶來了智能的邊緣計(jì)算解決方案。除了從事 edge 解決方案之外， Amanda 還在 NVIDIA 擔(dān)任銷售和營(yíng)銷角色，與 AI 、數(shù)據(jù)科學(xué)、虛擬 GPU 和許多不同行業(yè)合作。

審核編輯：郭婷