91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Ampere AI優(yōu)化框架如何加速 AI 推理

科技綠洲 ? 來源:安晟培半導體 ? 作者:安晟培半導體 ? 2022-05-26 10:01 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Microsoft Build 是為來自全球各地的開發(fā)人員、工程師、IT 專業(yè)人員、學生和初創(chuàng)公司打造的年度技術(shù)盛會。今年的會議采用線上的方式,展示 Microsoft 技術(shù)、Windows、Office 等技術(shù)及應(yīng)用的最新前沿資訊。

此前,Ampere Computing 和 Microsoft 宣布,雙方攜手開發(fā)了基于全球第一款云原生處理器 Ampere? Altra? 的 Azure 虛擬機(VM),不僅為開發(fā)人員帶來全新的性能和能效優(yōu)勢,還帶來了比 x86 的同款解決方案高出 66% 的優(yōu)越性價比。

Ampere Computing 受邀以精選合作伙伴身份參加今年的 Microsoft Build 大會,通過演講、demo 展示、技術(shù)趨勢探討等多種方式詳細地介紹基于Ampere Altra 的 Azure VM 解決方案,為全球科技迷們創(chuàng)造了大飽眼福的機會。

您可以觀看 Ampere Computing 解決方案高級總監(jiān) Sean Varley 先生發(fā)表的題為 The Essential Nature of Cloud Native Processor: Foundations, Solutions, and Benefits 的演講,詳細介紹了 Ampere Computing 如何通過領(lǐng)先的云原生處理器解決方案助力解決云計算未來十年的難題。

可預(yù)測性、可擴展性、高性能、安全和可持續(xù)性是助力云計算下一階段發(fā)展的關(guān)鍵。Ampere Computing 推出的全球第一款云原生處理器,具備業(yè)界最高能效、最多核數(shù)。其中 128 核 Ampere? Altra? Max 在 SpecRate Integer 2017 的 Performance per Socket 跑分高達 360 的頂尖水平,而實際功耗僅為 190 瓦。

目前,Ampere Computing 的解決方案在各種工作負載上都有優(yōu)秀的表現(xiàn),包括 Web 服務(wù)、內(nèi)存數(shù)據(jù)庫、緩存、媒體轉(zhuǎn)碼和 AI 推理等。您可以點擊「閱讀原文」前往我們的虛擬展廳觀看完整視頻。

Ampere 技術(shù)專家?guī)砀嗑蕛?nèi)容

Demo Center

帶來全方位演示

云原生工作負載(如 NGINX)運行在 Ampere Altra 的 Azure VM 上的性價比遠超傳統(tǒng) x86。

Redis 和 Memcached 等云原生工作負載如何在 Ampere Altra 上顯示出比傳統(tǒng) x86 高 30% 的性價比優(yōu)勢。

Cloud Native 自動化工具可以在 Azure 上輕松配置 Ampere 虛擬機。

Innovation Center

暢談云端最新潮流

觀看 Victor Jakubiuk 關(guān)于“以 Warp Speed 進行 AI 推理”的演講,了解 Ampere AI 優(yōu)化框架如何以極少的成本和精力加速 AI 推理。

最大化視頻編碼的吞吐量需要一致的性能和大量的核心數(shù)。John O‘Neill 分享了在 Ampere 處理器上運行的幾個視頻相關(guān)基準測試的結(jié)果。

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    20275

    瀏覽量

    252952
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    40126

    瀏覽量

    301751
  • 虛擬機
    +關(guān)注

    關(guān)注

    1

    文章

    973

    瀏覽量

    30534
  • Ampere
    +關(guān)注

    關(guān)注

    1

    文章

    81

    瀏覽量

    4896
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價值

    調(diào)度與操作系統(tǒng)運行。 2、 10個AI Core (達芬奇架構(gòu),1.08GHz):專為高密度的矩陣運算設(shè)計,承擔神經(jīng)網(wǎng)絡(luò)推理。 3、 8個Vector Core (1GHz):輔助進行數(shù)據(jù)預(yù)處理和向量
    發(fā)表于 03-10 14:19

    使用NORDIC AI的好處

    ; 自定義 Neuton 模型博客] Axon NPU :集成在 nRF54LM20B 等高端 SoC 中的專用 AI 加速器,對 TensorFlow Lite 模型可實現(xiàn)最高約 15× 推理
    發(fā)表于 01-31 23:16

    恩智浦推出全新eIQ Agentic AI框架

    恩智浦半導體宣布推出全新eIQ Agentic AI框架,進一步鞏固其在安全實時邊緣AI領(lǐng)域的領(lǐng)導地位。該工具支持在邊緣設(shè)備上直接實現(xiàn)自主智能體功能,助力資深與新手設(shè)備開發(fā)人員簡化并加速
    的頭像 發(fā)表于 01-13 11:15 ?1381次閱讀

    華為數(shù)據(jù)存儲與「DaoCloud 道客」發(fā)布AI推理加速聯(lián)合解決方案

    AI產(chǎn)業(yè)已從“追求模型能力極限”轉(zhuǎn)向“追求推理體驗最優(yōu)化”,推理體驗決定用戶與AI的交互質(zhì)感。當前推理
    的頭像 發(fā)表于 11-28 10:03 ?425次閱讀
    華為數(shù)據(jù)存儲與「DaoCloud 道客」發(fā)布<b class='flag-5'>AI</b><b class='flag-5'>推理</b><b class='flag-5'>加速</b>聯(lián)合解決方案

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    復(fù)制人類智能的AI---AGI。 走向AGI的五個層次發(fā)現(xiàn)階段: ①L1,聊天機器人:具備基礎(chǔ)的對話能力,能夠理解和回應(yīng)簡單的文本輸入 ②L2,推理者:具備基本的邏輯推理能力,能夠分析復(fù)雜信息并進行推斷
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應(yīng)用

    主要步驟: ①溯因②假說③實驗 1、科學推理的類型 ①演繹②歸納 2、自動化科學發(fā)現(xiàn)框架 AI-笛卡兒-----自動化科學發(fā)現(xiàn)框架,利用數(shù)據(jù)和知識來生成和評估候選的科學假說。 4項規(guī)
    發(fā)表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    ②Transformer引擎③NVLink Switch系統(tǒng)④機密計算⑤HBM FPGA: 架構(gòu)的主要特點:可重構(gòu)邏輯和路由,可以快速實現(xiàn)各種不同形式的神經(jīng)網(wǎng)絡(luò)加速。 ASIC: 介紹了幾種ASIC AI芯片
    發(fā)表于 09-12 16:07

    華為亮相2025金融AI推理應(yīng)用落地與發(fā)展論壇

    創(chuàng)新技術(shù)——UCM推理記憶數(shù)據(jù)管理器,旨在推動AI推理體驗升級,提升推理性價比,加速AI商業(yè)正循
    的頭像 發(fā)表于 08-15 09:45 ?1265次閱讀

    信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時代

    模態(tài)的技術(shù)特性,DeepSeek正加速推動AI在金融、政務(wù)、科研及網(wǎng)絡(luò)智能化等關(guān)鍵領(lǐng)域的深度應(yīng)用。 信而泰:AI推理引擎賦能網(wǎng)絡(luò)智能診斷新范式信而泰深度整合DeepSeek-R1大模型
    發(fā)表于 07-16 15:29

    Nordic收購 Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析

    Nordic Semiconductor 于 2025 年收購了 Neuton.AI,這是一家專注于超小型機器學習(TinyML)解決方案的公司。 Neuton 開發(fā)了一種獨特的神經(jīng)網(wǎng)絡(luò)框架,能夠
    發(fā)表于 06-28 14:18

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    基石。 Neuron Studio打造全流程一站式開發(fā)體驗,為AI應(yīng)用開發(fā)按下加速AI 應(yīng)用的開發(fā)瓶頸,從來都不是“點的問題”,而是“鏈的問題”:開發(fā)工具碎片化,調(diào)優(yōu)過程靠手動,單模型分析效率低
    發(fā)表于 04-13 19:52

    谷歌第七代TPU Ironwood深度解讀:AI推理時代的硬件革命

    谷歌第七代TPU Ironwood深度解讀:AI推理時代的硬件革命 Google 發(fā)布了 Ironwood,這是其第七代張量處理單元 (TPU),專為推理而設(shè)計。這款功能強大的 AI
    的頭像 發(fā)表于 04-12 11:10 ?3866次閱讀
    谷歌第七代TPU Ironwood深度解讀:<b class='flag-5'>AI</b><b class='flag-5'>推理</b>時代的硬件革命

    英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理

    Oracle 數(shù)據(jù)庫與 NVIDIA AI 相集成,使企業(yè)能夠更輕松、快捷地采用代理式 AI Oracle 和 NVIDIA 宣布,NVIDIA 加速計算和推理軟件與 Oracle 的
    的頭像 發(fā)表于 03-21 12:01 ?1481次閱讀
    英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)<b class='flag-5'>加速</b>代理式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>

    英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發(fā)布了開源推理軟件 NVIDIA Dynamo,旨在以高效率、低成本加速并擴展 AI 工廠中的 AI
    的頭像 發(fā)表于 03-20 15:03 ?1330次閱讀

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實現(xiàn)集成,以幫助全球企業(yè)組織
    發(fā)表于 03-19 15:24 ?586次閱讀
    Oracle 與 NVIDIA 合作助力企業(yè)<b class='flag-5'>加速</b>代理式 <b class='flag-5'>AI</b> <b class='flag-5'>推理</b>