優(yōu)步有開源光纖,一個(gè)新的庫,旨在授權(quán)用戶在計(jì)算機(jī)集群上實(shí)現(xiàn)大規(guī)模的機(jī)器學(xué)習(xí)計(jì)算。 庫的主要目標(biāo)是利用異構(gòu)計(jì)算硬件,動(dòng)態(tài)規(guī)模算法,并減輕工程師在集群上實(shí)現(xiàn)復(fù)雜算法的負(fù)擔(dān)。.
對于機(jī)器學(xué)習(xí)框架來說,保持足夠的靈活性來支持強(qiáng)化學(xué)習(xí)(RL)和基于人口的算法以及其他啟發(fā)式算法(如深度學(xué)習(xí))是一個(gè)挑戰(zhàn),因?yàn)樾枨罂赡軙?huì)有很大的變化。
雖然TensorFlow和Py Torch等已建立的框架涵蓋了大多數(shù)常見機(jī)器學(xué)習(xí)方法的分布式培訓(xùn)設(shè)置,但這些框架不太適合基于RL和基于人口的方法,這往往需要與模擬器頻繁交互以及復(fù)雜和動(dòng)態(tài)的縮放策略。 光纖為其分布式計(jì)算框架提供了統(tǒng)一的Python用戶界面,以支持這些新需求。
與Fiber一起發(fā)表的研究論文詳細(xì)介紹了用于評估框架開銷、進(jìn)化策略和近端策略優(yōu)化(PPO)庫的實(shí)驗(yàn)。 研究人員比較了Fiber與IPy并行(iPython用于并行計(jì)算)、Spark和標(biāo)準(zhǔn)python多處理庫在框架開銷上的性能,發(fā)現(xiàn)Fiber在任務(wù)持續(xù)時(shí)間較短時(shí)優(yōu)于iPy并行和Spark,這是處理模擬器時(shí)要理解的重要指標(biāo)。
與Atari基準(zhǔn)中關(guān)于Breakout的多處理實(shí)現(xiàn)相比,F(xiàn)iber啟用的PPO分布式版本的性能表明,F(xiàn)iber可以將RL算法擴(kuò)展到本地機(jī)器之外。
光纖分成API層,后端層,簇層。. API層與標(biāo)準(zhǔn)Python多處理模塊具有相似的要求和語義,但擴(kuò)展到分布式環(huán)境中工作。
后端層可以處理多個(gè)不同集群管理器的任務(wù)通信。 最后,聚類層包含Kubernetes和Peloton等集群管理器。
光纖引入了一個(gè)新的概念,稱為工作支持過程。 當(dāng)啟動(dòng)其中一個(gè)進(jìn)程時(shí),將創(chuàng)建一個(gè)在當(dāng)前集群上帶有Fiber后端的新作業(yè)。 父容器在使用相同的容器映像啟動(dòng)子進(jìn)程之前封裝所需的文件、輸入數(shù)據(jù)和該作業(yè)的任何其他依賴項(xiàng),以保證一致的運(yùn)行環(huán)境。 下圖更詳細(xì)地說明了這一架構(gòu):
纖維和谷歌新的分布式強(qiáng)化學(xué)習(xí)庫種子RL的發(fā)布表明,大科技公司的目標(biāo)是既降低成本,又簡化培訓(xùn)尖端機(jī)器學(xué)習(xí)算法的過程。
-
光纖
+關(guān)注
關(guān)注
20文章
4427瀏覽量
80608 -
算法
+關(guān)注
關(guān)注
23文章
4786瀏覽量
98242 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8558瀏覽量
137074
發(fā)布評論請先 登錄
OpenTenBase核心貢獻(xiàn)者分享開源數(shù)據(jù)庫的破局之路
MPO光纖跳線和MTP光纖跳線有什么不同
炎核開源開放平臺(tái)上架推出OpenSparseBlas高性能稀疏計(jì)算庫
天翼云基于開源歐拉的智能調(diào)優(yōu)實(shí)踐
單模光纖線和標(biāo)準(zhǔn)光纖線有什么區(qū)別
HarmonyOSAI編程智慧調(diào)優(yōu)
HarmonyOS AI輔助編程工具(CodeGenie)智慧調(diào)優(yōu)
光纖光衰過大怎么解決
Aisler 發(fā)布 Lovely Library:一個(gè)為 KiCad 打造的高質(zhì)量歐洲元器件庫
飛書富文本組件庫RichTextVista開源
單模光纖線有幾種
FC光纖頭和SC光纖頭有什么區(qū)別
兩光纖線怎么合一光纖
基于RV1126開發(fā)板移植NCNN部署庫方法
優(yōu)步有開源光纖,一個(gè)新的庫
評論