Google的研究人員開源了一個新框架
Google的研究人員開源了一個新框架，該框架可以在數(shù)千臺機器上擴大人工智能模型的培訓。
谷歌在一份研究論文中指出，這是一個有前途的發(fā)展，因為它應該使AI算法訓練能夠以每秒數(shù)百萬幀的速度執(zhí)行，同時將這樣做的成本降低多達80%。
這種減少可能有助于為那些以前無法與AI等主要參與者競爭的初創(chuàng)公司提供公平的競爭環(huán)境。實際上，在云中訓練復雜的機器學習模型的成本令人驚訝地昂貴。
Synced最近的一份報告發(fā)現(xiàn)，華盛頓大學花費了25，000美元來訓練其Grover模型，該模型用于檢測和生成假新聞。同時，OpenAI每小時支付256美元來訓練其GPT-2語言模型，而Google本身花費約6，912美元來訓練其BERT模型來進行自然語言處理任務。
SEED RL構(gòu)建在TensorFlow 2.0框架之上，并通過利用圖形處理單元和張量處理單元的組合來集中模型推斷。然后使用訓練模型的學習器組件集中執(zhí)行推斷。
目標模型的變量和狀態(tài)信息保持局部狀態(tài)，并在過程的每個步驟中將對它們的觀察結(jié)果發(fā)送給學習者。SEED RL還使用基于開源通用RPC框架的網(wǎng)絡庫來最大程度地減少延遲。
谷歌的研究人員說，SEED RL的學習器組件可以擴展到數(shù)千個內(nèi)核，而在環(huán)境中采取步驟與在模型上進行推斷以預測下一步操作之間進行迭代的參與者數(shù)量可以擴展到數(shù)千臺機器。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
Google
+關注
關注
5文章
1808瀏覽量
60558 -
機器學習
+關注
關注
66文章
8558瀏覽量
137055
發(fā)布評論請先 登錄
相關推薦
熱點推薦
從網(wǎng)絡接口到 DMA，一套面向工程師的 FPGA 網(wǎng)絡開發(fā)框架
Development Kit，是由 Liberouter 研究團隊開發(fā)的一套框架，用于在 FPGA 加速卡上快速實現(xiàn)高性能網(wǎng)絡應用。它并不是一個
NVIDIA 收購開源工作負載管理提供商 SchedMD
軟件的主要開發(fā)商，Slurm 是一款用于 HPC 和 AI 的開源工作負載管理系統(tǒng)。此次收購旨在幫助強化開源軟件生態(tài)系統(tǒng)，并推動研究人員、開發(fā)者和企業(yè)的 AI 創(chuàng)新。 NVIDIA
人工智能AI必備的5款開源軟件推薦！
在技術浪潮洶涌的當下，越來越多的企業(yè)與開發(fā)者開始意識到：“開源”已經(jīng)不只是一個口號，而是創(chuàng)新的源泉。 從算法研究到智能應用落地，無數(shù)項目的起點，都是
研究人員復興針孔相機技術以推動下一代紅外成像發(fā)展
研究人員運用具有數(shù)百年歷史的針孔成像原理，開發(fā)出一種無需透鏡的高性能中紅外成像系統(tǒng)。這種新型相機能夠在大范圍距離內(nèi)和弱光條件下拍攝極其清晰的照片，使其在傳統(tǒng)相機難以應對的場景中發(fā)揮重要作用。 研究
NVIDIA助力新一代機器人開發(fā)開源框架
今年的 ROSCon 在新加坡舉辦，并于 10 月 29 日順利閉幕。大會吸引了全球機器人操作系統(tǒng)（ROS）領域開發(fā)者的關注。ROS 是目前全球應用最廣泛的機器人開發(fā)開源框架。
NVIDIA宣布開源Aerial軟件
NVIDIA 開源其 Aerial 軟件，并將 NVIDIA Sionna 研究套件和 Aerial 測試平臺引入 NVIDIA DGX Spark 平臺，為研究人員提供強大的工具和便捷的訪問途徑，以加速 AI 原生無線創(chuàng)新。
利用 Banana Pi BPI-CM5 Pro（ARMSoM CM5 SoM） 加速保護科學
政府、大學和非政府組織的研究人員。通過使用開源計算硬件，實時聲學監(jiān)測的構(gòu)建成本可以低于使用專用微控制器的系統(tǒng)。
實施過程
為了展示開源硬件在生物聲學邊緣處理方面的優(yōu)勢，我們需要一
發(fā)表于 10-27 09:18
如何基于翼輝信息SylixOS開發(fā)ROS 2應用
算法的一站式解決方案，同時輔以功能強大的開發(fā)工具，助力工程師與研究人員高效完成項目開發(fā)。ROS 2 在實時性、安全性、靈活性和跨平臺支持等方面進行了顯著的改進，為現(xiàn)代機器人開發(fā)提供了一
大小鼠糖水偏好實驗系統(tǒng)
基因操作對動物行為的影響，或者用于研究獎賞系統(tǒng)和成癮行為。大小鼠糖水實驗系統(tǒng)套裝為研究人員提供了一個強大的工具，用于準確監(jiān)測動物對甜味的偏好
發(fā)表于 08-14 13:40
無刷直流電機雙閉環(huán)串級控制系統(tǒng)仿真研究
以來伴隨著永磁材料技術、計算機及控制技術等支撐技術的快速發(fā)展及微電機制造工藝水平的不斷提高,永磁無刷直流電動機在高性能中、小伺服驅(qū)動領域獲得廣泛應用并日趨占據(jù)主導地位嗎。一直以來,研究人員都比較關注利用
發(fā)表于 07-07 18:36
Google Fast Pair服務簡介
設備。多個Seeker設備可以擁有同一個Google Account 。Provider和第一個Seeker建立關聯(lián)的過程稱為initial pairing；Provider和第二個擁
發(fā)表于 06-29 19:28
研究人員開發(fā)出基于NVIDIA技術的AI模型用于檢測瘧疾
瘧疾曾一度在委內(nèi)瑞拉銷聲匿跡，但如今正卷土重來。研究人員已經(jīng)訓練出一個模型來幫助檢測這種傳染病。
深度解讀英偉達Newton機器人平臺：技術革新與跨界生態(tài)構(gòu)建
的基礎上，它使機器人能夠?qū)W習如何以更高的精度處理復雜的任務，與MuJoCo Playground或 NVIDIA Isaac Lab 等學習框架兼容，這是一個開源的機器人學習統(tǒng)
開源項目！Open Echo：一個開源的聲納項目
的水深。
幾乎所有船只都使用回聲測深儀來導航和確保安全。研究人員依靠它們進行測深、繪圖和考古研究。搜救（SAR）隊使用它們進行定位和打撈，而漁民則使用它們來確定魚類豐富區(qū)域的位置。
我需要一個
發(fā)表于 03-20 13:37
Open Echo：一個開源的聲納項目
“ ?這是一個還在迭代中的項目。開源的回聲測深儀/水深測量儀/聲吶系統(tǒng)，適用于水文測繪及科研用途。基于Arduino平臺開發(fā)并具備良好兼容性? ” ? Open Echo 概覽 作為持續(xù)迭代
工商網(wǎng)監(jiān)
評論