近年來(lái)，隨著大數(shù)據(jù)和人工智能技術(shù)的逐步成熟與廣泛應(yīng)用，AI業(yè)務(wù)對(duì)算力的需求不斷增加，算法迭代速度持續(xù)加快，新的算法框架層出不窮，場(chǎng)景化的算法應(yīng)用日趨豐富。面對(duì)日益復(fù)雜的海量算法應(yīng)用場(chǎng)景，如何建設(shè)一個(gè)更加高效并可持續(xù)演進(jìn)的算法資源管理平臺(tái)，來(lái)幫助企業(yè)實(shí)現(xiàn)算法全生命周期管理，已成為各大企業(yè)在開(kāi)展AI應(yīng)用過(guò)程中面臨的一大挑戰(zhàn)。

為了幫助企業(yè)實(shí)現(xiàn)算法的統(tǒng)一管理和算法在企業(yè)應(yīng)用中的全生命期支撐，提升企業(yè)資源的利用率和開(kāi)放性，構(gòu)建算法管理生態(tài)體系，淵亭科技針對(duì)行業(yè)痛點(diǎn)需求推出了算法倉(cāng)平臺(tái)服務(wù)。

算法倉(cāng)介紹

1.什么是算法倉(cāng)？

人工智能的“三算”包括算力、算料和算法，分別對(duì)應(yīng)算力倉(cāng)、算料倉(cāng)和算法倉(cāng)。

其中，算法倉(cāng)是管理算法模型的倉(cāng)庫(kù)，倉(cāng)庫(kù)集中管理所有的AI算法模型，并提供AI分析服務(wù)能力，實(shí)現(xiàn)多廠家、多版本算法的快速集成，提供算法的生命周期管理能力。

2.算法倉(cāng)做什么用？

算法倉(cāng)提供統(tǒng)一的算法管理服務(wù)和生命周期管理能力，實(shí)現(xiàn)終端設(shè)備、平臺(tái)、算法和應(yīng)用之間的全解耦，通過(guò)分層架構(gòu)設(shè)計(jì)和提供標(biāo)準(zhǔn)化的接口，將各種能力以模塊化服務(wù)的方式提供給不同應(yīng)用靈活調(diào)用，實(shí)現(xiàn)算法與應(yīng)用解耦、算法與數(shù)據(jù)解耦、算法與硬件解耦，同時(shí)通過(guò)統(tǒng)一API接口進(jìn)行能力開(kāi)放，實(shí)現(xiàn)數(shù)據(jù)共享與生態(tài)合作。算法倉(cāng)體系架構(gòu)使得算法分析能力不再固化在應(yīng)用產(chǎn)品中，具有系統(tǒng)高可用、資源高利用率、算法靈活開(kāi)放等優(yōu)勢(shì)。

淵亭科技算法倉(cāng)平臺(tái)

淵亭科技算法倉(cāng)基于公司深厚的技術(shù)沉淀進(jìn)行研發(fā)，平臺(tái)既集成了國(guó)內(nèi)外各類(lèi)領(lǐng)先的算法模型和淵亭科技自研算法模型，也支持第三方算法廠商的算法接入，建設(shè)算法開(kāi)發(fā)-自動(dòng)化準(zhǔn)入-運(yùn)行-運(yùn)營(yíng)的全生命周期管理體系，以滿足不同場(chǎng)景的算法管理需求。平臺(tái)遵循成熟的算法自動(dòng)化檢測(cè)標(biāo)準(zhǔn)，符合企業(yè)的算法運(yùn)營(yíng)體系規(guī)范，能夠快速實(shí)現(xiàn)人工智能應(yīng)用高質(zhì)量落地，促進(jìn)AI資源高效共享與運(yùn)營(yíng)。

1.平臺(tái)總體架構(gòu)

算法倉(cāng)平臺(tái)核心功能包括算法廠家管理、算法信息管理、算法服務(wù)管理、算法資源管理、開(kāi)發(fā)者服務(wù)、準(zhǔn)入自動(dòng)化測(cè)試等模塊，并支持對(duì)接企業(yè)的基礎(chǔ)設(shè)施平臺(tái)和運(yùn)營(yíng)平臺(tái)，實(shí)現(xiàn)算法所需數(shù)據(jù)和支持應(yīng)用的快速對(duì)接。算法倉(cāng)平臺(tái)遵循了一套完整的算法統(tǒng)一對(duì)接標(biāo)準(zhǔn)規(guī)范，支持通過(guò)準(zhǔn)入準(zhǔn)出機(jī)制和統(tǒng)一對(duì)接標(biāo)準(zhǔn)實(shí)現(xiàn)第三方算法與自研算法的接入?；谒惴▊}(cāng)平臺(tái)整體能力可為企業(yè)提供算法全生命周期管理服務(wù)，簡(jiǎn)化算法調(diào)度流程，提升算法的管理、部署和上線應(yīng)用效率。

淵亭科技算法倉(cāng)平臺(tái)架構(gòu)圖

2.核心功能介紹

（1）算法倉(cāng)功能介紹

本功能實(shí)現(xiàn)對(duì)算法廠商信息的全面管理。該功能不僅可對(duì)算法廠商基本信息進(jìn)行管理，還支持對(duì)廠商接入、退出、評(píng)價(jià)和算法授權(quán)等進(jìn)行管理，可實(shí)現(xiàn)自動(dòng)生成和刪除廠商編碼、預(yù)生成算法編碼等特性，同時(shí)支持對(duì)算法授權(quán)日志、算法授權(quán)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和展示。

預(yù)生成算法編碼管理

（2）算法信息管理

該功能支持第三方算法廠商進(jìn)行算法信息管理，廠商可基于通用/專(zhuān)用的算法鏡像關(guān)聯(lián)維護(hù)多個(gè)算法。該模塊支持對(duì)算法類(lèi)別、事件告警等基本信息進(jìn)行管理。同時(shí)，用戶可對(duì)鏡像編號(hào)、鏡像版本等信息進(jìn)行錄入、修改、刪除等操作，校驗(yàn)并管理鏡像狀態(tài)（測(cè)試態(tài)、下架態(tài)、上架態(tài)）等。

新增算法

（3）算法服務(wù)管理

該功能具備服務(wù)動(dòng)態(tài)調(diào)度、算力資源調(diào)度、算法鏡像調(diào)度和算法自動(dòng)化發(fā)布的能力。用戶可根據(jù)運(yùn)營(yíng)管理規(guī)劃，進(jìn)行服務(wù)初始化部署，啟動(dòng)算法的服務(wù)實(shí)例。服務(wù)動(dòng)態(tài)調(diào)度支持根據(jù)實(shí)際下發(fā)任務(wù)進(jìn)行服務(wù)的運(yùn)行期資源調(diào)度，實(shí)現(xiàn)動(dòng)態(tài)調(diào)度（彈性擴(kuò)容、縮容、銷(xiāo)毀）的特性。算力資源調(diào)度支持結(jié)合算法任務(wù)承載量動(dòng)態(tài)調(diào)度相應(yīng)算力資源（包括整服務(wù)器資源、碎片化單卡資源、利用率較低的單卡資源），實(shí)現(xiàn)算法分析任務(wù)漂移的能力，支持在容器宕機(jī)、算法假死等情況下實(shí)現(xiàn)任務(wù)重新下發(fā)和任務(wù)分析。

算法服務(wù)管理

（4）算法準(zhǔn)入管理

該模塊提供了算法接口規(guī)范檢測(cè)、算法功能驗(yàn)證、資源情況評(píng)估和導(dǎo)出測(cè)試報(bào)告等功能，支持第三方算法和自研算法根據(jù)統(tǒng)一的對(duì)接標(biāo)準(zhǔn)實(shí)現(xiàn)算法接入，算法廠家可快速接入算法倉(cāng)，同時(shí)提供算法驗(yàn)證功能，包含告警上報(bào)驗(yàn)證、算法準(zhǔn)確率驗(yàn)證和誤報(bào)率評(píng)估驗(yàn)證等。

（5）算法資源管理

提供納管中心節(jié)點(diǎn)及邊緣節(jié)點(diǎn)算力資源的能力，中心節(jié)點(diǎn)可統(tǒng)一管理邊緣節(jié)點(diǎn)，其中算力資源包括資源IP、資源規(guī)格、（CPU、GPU、內(nèi)存等）、歸屬節(jié)點(diǎn)等信息。監(jiān)控中心節(jié)點(diǎn)及邊緣節(jié)點(diǎn)的服務(wù)器資源、主機(jī)資源等，算法維度統(tǒng)計(jì)算法資源消耗，可視化展示統(tǒng)計(jì)結(jié)果。監(jiān)控算法容器的運(yùn)行狀態(tài)和資源使用情況，支持以圖表可視化方式展示資源監(jiān)控信息并支持導(dǎo)出報(bào)表。

容器監(jiān)控管理

3.平臺(tái)核心價(jià)值

（1）幫助企業(yè)提高算法生態(tài)整合能力。

（2）幫助企業(yè)建立算法全生命周期管理規(guī)范，提升算法資源利用效率。

（3）通過(guò)“賽馬機(jī)制”形成算法更新迭代的良性循環(huán)，幫助企業(yè)持續(xù)提升算法的計(jì)算性能。

（4）幫助企業(yè)節(jié)省算力資源的成本支出。

應(yīng)用案例

1.天翼云案例

2022年3月，淵亭科技成功中標(biāo)天翼數(shù)字生活科技有限公司算法倉(cāng)項(xiàng)目。該平臺(tái)面向6000萬(wàn)+個(gè)生活終端，實(shí)現(xiàn)數(shù)百個(gè)人工智能算法的集中加載、定向分發(fā)、擇優(yōu)計(jì)算及統(tǒng)一管理，形成算法生態(tài)合作，助力中國(guó)電信踐行“云改數(shù)轉(zhuǎn)”策略，極大發(fā)揮在數(shù)字生活領(lǐng)域的領(lǐng)先實(shí)力。

平臺(tái)累計(jì)對(duì)接6個(gè)運(yùn)營(yíng)子平臺(tái)接口、3個(gè)OOS接口、5個(gè)算法規(guī)范接口、2個(gè)鏡像服務(wù)接口和30多個(gè)云平臺(tái)接口。上線了算法產(chǎn)家管理、算法管理、算法服務(wù)管理、算法準(zhǔn)入自動(dòng)化測(cè)試等核心模塊。同時(shí)，算法成功應(yīng)用在老鼠識(shí)別、佩戴廚師帽檢測(cè)、安全帽檢測(cè)、車(chē)牌識(shí)別、工程車(chē)輛檢測(cè)、身份證識(shí)別等20+個(gè)業(yè)務(wù)場(chǎng)景。

天翼云算法倉(cāng)極大地提升了天翼數(shù)字生活科技有限公司對(duì)算法的自主掌控能力，有效的支撐多場(chǎng)景的智聯(lián)業(yè)務(wù)發(fā)展。

2.中國(guó)鐵塔案例

近日，淵亭科技就算法倉(cāng)共建與中國(guó)鐵塔簽訂合作協(xié)議。項(xiàng)目根據(jù)中國(guó)鐵塔的運(yùn)營(yíng)思路，依托淵亭科技算法倉(cāng)平臺(tái)，設(shè)計(jì)算法商城、動(dòng)態(tài)配額等機(jī)制，激發(fā)算法廠商參與的積極度，持續(xù)構(gòu)建算法生態(tài)，并同步建立算法自動(dòng)化檢測(cè)標(biāo)準(zhǔn)和算法運(yùn)營(yíng)體系規(guī)范，在縮短算法應(yīng)用周期的同時(shí)，幫助中國(guó)鐵塔整合通信基礎(chǔ)設(shè)施、IT基礎(chǔ)設(shè)施等監(jiān)控能力，研發(fā)視聯(lián)算法任務(wù)調(diào)度機(jī)制，實(shí)現(xiàn)邊緣自治和算法動(dòng)態(tài)調(diào)度的運(yùn)行保障能力。

為進(jìn)一步拓展通信鐵塔基礎(chǔ)設(shè)施的服務(wù)能力，打造具有電信行業(yè)特色的自主掌控、開(kāi)放高效的通信鐵塔基礎(chǔ)設(shè)施服務(wù)信息化平臺(tái)，提高AI技術(shù)在運(yùn)營(yíng)效率、服務(wù)水平等方面的應(yīng)用能力，同時(shí)推進(jìn)數(shù)字化管理創(chuàng)新，中國(guó)鐵塔基于算法倉(cāng)等關(guān)鍵能力，對(duì)現(xiàn)有業(yè)務(wù)應(yīng)用進(jìn)行智能化改造，智能化地支撐生產(chǎn)和決策，切實(shí)為基層減負(fù)，提高運(yùn)營(yíng)管理效率。

3.中國(guó)移動(dòng)案例

本項(xiàng)目通過(guò)在中國(guó)移動(dòng)的計(jì)算節(jié)點(diǎn)上部署算法倉(cāng)平臺(tái)，實(shí)現(xiàn)了跨區(qū)域算法的統(tǒng)一管理、分發(fā)和部署，有效管理了中國(guó)移動(dòng)在山東、江西、云南、內(nèi)蒙、四川等地的算力資源，使得各省公司算法應(yīng)用上線效率大幅提升，上線周期大幅縮短。同時(shí)，算法倉(cāng)平臺(tái)有力的支撐了中國(guó)移動(dòng)和包貸應(yīng)用場(chǎng)景落地，通過(guò)算法對(duì)移動(dòng)用戶進(jìn)行授信分析，激活無(wú)法授信的沉睡客戶，實(shí)現(xiàn)了最終客戶轉(zhuǎn)換，使得獲客成本大幅降低，最終助力移動(dòng)和包貸業(yè)績(jī)大幅增長(zhǎng)。

4.國(guó)防領(lǐng)域案例

淵亭科技算法倉(cāng)平臺(tái)除在政企領(lǐng)域開(kāi)展實(shí)踐外，在國(guó)防領(lǐng)域也有著廣泛的運(yùn)用，能夠?yàn)閲?guó)防領(lǐng)域豐富的物聯(lián)網(wǎng)、人工智能場(chǎng)景，輸出包含機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的應(yīng)用級(jí)全棧算法服務(wù)能力，基于完備的邊霧云一體化架構(gòu)實(shí)現(xiàn)算法的全面管理和調(diào)度。例如在某項(xiàng)目中，圍繞指揮控制、戰(zhàn)場(chǎng)態(tài)勢(shì)、支援保障等業(yè)務(wù)方向，構(gòu)建覆蓋指揮中樞到單兵作戰(zhàn)終端的一體化算法分發(fā)和運(yùn)行調(diào)度框架，對(duì)國(guó)防領(lǐng)域復(fù)雜的異構(gòu)計(jì)算資源（大數(shù)據(jù)集群、GPU 集群、邊緣節(jié)點(diǎn)、終端算力等）進(jìn)行優(yōu)化調(diào)配，匹配算力和數(shù)據(jù)進(jìn)行高效計(jì)算，統(tǒng)籌情報(bào)取證、戰(zhàn)場(chǎng)目標(biāo)意圖識(shí)別、作戰(zhàn)策略推薦等高頻算法的運(yùn)行和使用，提高了智能作戰(zhàn)的體系韌性，實(shí)現(xiàn)方案優(yōu)化和綜合管理一體化，大大降低了人工智能在軍事領(lǐng)域落地的復(fù)雜性。

算法倉(cāng)能力在各領(lǐng)域的廣泛應(yīng)用，只是淵亭諸多人工智能技術(shù)創(chuàng)新和產(chǎn)品化沉淀的縮影之一。淵亭科技還將持續(xù)扎根技術(shù)、沉淀產(chǎn)品、服務(wù)場(chǎng)景，聚焦人工智能的應(yīng)用價(jià)值，把落地業(yè)務(wù)做深做透，以獲得更多客戶的信賴(lài)、認(rèn)可，助力各行各業(yè)在智能化時(shí)代的創(chuàng)新與突破。