該方案支持以兆芯開勝KH-40000系列服務(wù)器處理器及算能自研算力產(chǎn)品（包括算能TPU處理器、推理微服務(wù)器、智算卡等）為硬件底座，以AutoML零代碼自動化訓(xùn)練平臺為基礎(chǔ)，能夠幫助用戶通過簡單的操作，自主完成模型創(chuàng)建、數(shù)據(jù)標注、模型訓(xùn)練、模型測試、模型部署等全流程的過程。

人工智能讓機器不再僅僅是執(zhí)行人類命令的工具，而是能夠思考、解決問題的智能體，作為當今科技領(lǐng)域最受關(guān)注、熱度最高的數(shù)字技術(shù)應(yīng)之一，人工智能正在逐步的改變著我們 的生活方式和世界的發(fā)展格局，已經(jīng)成為各國科技創(chuàng)新競爭的重中之重。

方案背景

隨著人工智能大模型的爆火與飛速進步，深度學(xué)習(xí)在各領(lǐng)域的應(yīng)用日益深入，其與產(chǎn)業(yè)的融合也日益深入和專業(yè)化。日前，基于兆芯處理器平臺的AI教育解決方案已經(jīng)在華南理工大學(xué)工程訓(xùn)練中心AI實驗室順利部署上線。該方案進一步完善了學(xué)校的AI教學(xué)模式，能夠幫助學(xué)生模擬和探索AI在真實場景中的應(yīng)用，進行機器視覺、自然語言處理、深度學(xué)習(xí)等方面的實踐。

深度學(xué)習(xí)的落地是一個復(fù)雜的系統(tǒng)工程，企業(yè)進行自主研發(fā)，必須從零開始，建立一個團隊，這就意味著要付出高昂的人力代價，還要克服許多技術(shù)困難，而且很難確保模型的實用性；在定制開發(fā)模式上，存在“一個場景對應(yīng)一個模型”造成的定制成本高、開發(fā)時間長、不能自主迭代、泛化能力差、業(yè)務(wù)數(shù)據(jù)保密性高等諸多困難。

方案簡介

針對企業(yè)部署深度學(xué)習(xí)應(yīng)用人力成本高、技術(shù)難度大、開發(fā)周期長、迭代能力差等問題和難點，兆芯與算能聯(lián)合SOPHON.TEAM生態(tài)共同構(gòu)建了一套可高效落地的整體解決方案。

該方案支持以兆芯開勝KH-40000系列服務(wù)器處理器及算能自研算力產(chǎn)品（包括算能TPU處理器、推理微服務(wù)器、智算卡等）為硬件底座，以AutoML零代碼自動化訓(xùn)練平臺為基礎(chǔ)，能夠幫助用戶通過簡單的操作，自主完成模型創(chuàng)建、數(shù)據(jù)標注、模型訓(xùn)練、模型測試、模型部署等全流程的過程，實現(xiàn)快速、高效的深度學(xué)習(xí)工程化落地。

方案架構(gòu)

方案分為硬件層、軟件層、數(shù)據(jù)層。硬件層部署訓(xùn)練服務(wù)器及算能推理微服務(wù)器、智算卡等產(chǎn)品；軟件層部署訓(xùn)練平臺和推理平臺；數(shù)據(jù)層通過視頻采集、數(shù)據(jù)清洗、數(shù)據(jù)標注等操作，為推理平臺和訓(xùn)練平臺推理訓(xùn)練數(shù)據(jù)。

方案價值

01

一體化交付

集算法訓(xùn)練與推理部署等能力于一體，全面解決深度學(xué)習(xí)項目落地過程中從數(shù)據(jù)處理、模型訓(xùn)練、應(yīng)用部署到事件上報全流程的問題，能力更全面、體驗更流暢、性能更完整、性價比更高。

02

場景智能+業(yè)務(wù)導(dǎo)向

面向真實業(yè)務(wù)場景的實戰(zhàn)型解決方案，可基于用戶數(shù)據(jù)特征、場景特征、業(yè)務(wù)需求智能化推薦相應(yīng)的模型結(jié)構(gòu)、靈活設(shè)置業(yè)務(wù)參數(shù)，在更小的資源投入下，實現(xiàn)更好的應(yīng)用效果和更高的處理器利用率。

03

靈活的算法定制能力

該方案在穩(wěn)定的硬件基礎(chǔ)上，實現(xiàn)了專業(yè)、靈活的算法生產(chǎn)，用戶可根據(jù)實際需求自主生產(chǎn)、部署所需算法，并根據(jù)業(yè)務(wù)場景需求自動化迭代精度，顯著優(yōu)于硬件與固定算法綁定的傳統(tǒng)方案。

應(yīng)用場景

01

構(gòu)建現(xiàn)代立體化視頻圖像巡檢體系

采取數(shù)據(jù)增強策略，針對性生成移動小目標識別等相關(guān)深度學(xué)習(xí)算法，多幀過濾、多次檢測，彌補無人機視角下移動目標過小、檢測難度大等不足，進行精準識別，可以快速、準確地識別出巡檢區(qū)域內(nèi)的特定目標。

02

提升網(wǎng)絡(luò)基礎(chǔ)設(shè)施智能化管理及故障風(fēng)險預(yù)警能力

通過智能化監(jiān)測系統(tǒng)，收集基礎(chǔ)設(shè)施的運行數(shù)據(jù)，并借助AutoML自動化訓(xùn)練平臺對機房和基站等場景的基礎(chǔ)設(shè)施進行數(shù)據(jù)分析和建模，從而實現(xiàn)故障和安全隱患的預(yù)測和預(yù)警，進一步提前對發(fā)生故障和風(fēng)險事件的可能性進行判斷和排除。

相關(guān)產(chǎn)品

01

算能智算卡SC7

SC7是面向深度學(xué)習(xí)推理的算力卡，已完成與兆芯開勝KH-40000系列服務(wù)器處理器的適配認證，產(chǎn)品高效適配市場上主流深度學(xué)習(xí)算法，實現(xiàn)視頻結(jié)構(gòu)化、人臉識別、行為分析、狀態(tài)監(jiān)測等應(yīng)用，為智慧城市、智慧交通、智慧能源、智慧金融、智慧電信、智慧工業(yè)等領(lǐng)域賦能。

02

聯(lián)想開天KR722z G2服務(wù)器

聯(lián)想開天KR722z G2服務(wù)器，搭載雙路開勝KH-40000/32處理器，支持12×前置3.5寸或24×2.5寸熱插拔硬盤；4×后置熱插拔硬盤。支持超大數(shù)據(jù)存儲容量和熱插拔功能，內(nèi)存容量最高可支持2TB，同時整機采用冗余的散熱功能和可選的電源功能設(shè)計，提供強大算力的同時，可保障業(yè)務(wù)連續(xù)穩(wěn)定運行。

03

聯(lián)和東海XRS 302系列服務(wù)器

聯(lián)和東海XRS 302系列服務(wù)器搭載雙路開勝KH-40000/32處理器，響應(yīng)快速，性能大幅提升；提供32個內(nèi)存槽位，內(nèi)存最大支持2TB；多種規(guī)格PCIe 接口，可支持GPU算力卡等硬件擴展。適用于OA/郵件服務(wù)、數(shù)據(jù)庫服務(wù)、存儲服務(wù)、云平臺計算節(jié)點，AI 算力服務(wù)、推理服務(wù)等應(yīng)用場景。