FPGA為高性能計算和機器學習提供了一種早期的架構專門化選項。體系結構專門化是繼續(xù)改進性能的一種選擇，以克服摩爾定律中減緩技術步伐所帶來的限制。無論是在功耗還是性能方面，使用特定于應用程序的硬件來加速應用程序或其中一部分，并允許使用更高效的硬件作為支撐。

考慮到為單個應用程序或工作流構建計算硬件的固有成本，這種策略不能用于所有應用程序。然而，通過將挑戰(zhàn)組合成組，或者識別能夠從加速中獲益的關鍵工作負載或代碼，很可能成為提高應用程序性能的一個重要部分。一些應用程序非常適合于GPU或FPGA等技術，這些技術可以通過實現加速技術來提高性能。GPU加速或架構專業(yè)化并非新概念，一些專家預測，它們將越來越普遍地用于提高性能，并降低未來系統(tǒng)的能源成本。

歐洲核子研究中心(CERN)正在使用Xilinx FPGA加速推理和傳感器預處理工作負載來搜索暗物質。該項目背后的研究人員正利用FPGA和CERN其他計算資源，以極快的速度處理大量高能粒子物理數據，以尋找宇宙起源的線索。因此這需要實時過濾傳感器數據，以識別可能包含暗物質和其他物理現象存在證據的新粒子結構。

在今天的大數據時代，企業(yè)和消費者被各種來源的海量數據淹沒，包括商業(yè)交易、社交媒體以及傳感器或機器對機器數據的信息。這些數據有多種格式，從傳統(tǒng)數據庫中的結構化數字數據到非結構化文本文檔、電子郵件、視頻、音頻和金融交易。

對這些數據的有效分析是產生洞察力和驅動更好的決策制定和機器學習(ML)算法的關鍵，這些算法在現代數據分析中被廣泛使用。深度卷積網絡(DNN)作為一種特殊的ML算法，在圖像分類中得到了廣泛的應用。當前的一代DNN，如ALEXNET和VGG，依賴于密集浮點矩陣乘法(GEMM)，這種算法具有規(guī)則的并行性和較高的TFLOPS（每秒浮點運算次數），能夠很好地映射到GPU功能。

雖然FPGA比GPU更節(jié)能(在今天的物聯網市場很重要)，但它們在DNN上的性能與GPU并不匹配。英特爾進行的一系列測試評估了兩種最新一代FPGA(英特爾的Arria TM10和statix TM10)與最新的高性能GPU (Titan X Pascal)在DNN計算上的性能。由于數據并行計算具有規(guī)則的并行性和高浮點計算吞吐量，傳統(tǒng)上DNN都使用GPU。每一代GPU都加入了更多的浮點單元、片上RAM和更高的內存帶寬，以提供更多的浮點運算次數。

然而，由于發(fā)散等問題，具有不規(guī)則并行性的計算可能會對GPU造成挑戰(zhàn)。此外，由于GPU只支持一組固定的本地數據類型，定制定義的數據類型可能無法有效地處理，從而導致硬件資源利用率不足和性能不理想。首先，下一代FPGA集成了更多的片上RAM。其次，像HYPERFLEX這樣的技術可以顯著提高頻率。第三，還有更多的DSP可用。第四，HBM內存技術的集成導致芯片外帶寬增加，最后，下一代FPGA將使用更先進的工藝技術，如14nm CMOS。

英特爾Stratix 10 FPGA芯片擁有5000多個硬化浮點數單元(dsp)，超過28MB的片上RAM (M20Ks)，與高帶寬內存(高達4x250GB/s/stack或1TB/s)集成，并改進了新HyperFlex技術頻率，使得FP32吞吐量峰值9.2 Tflops。此外，FPGA開發(fā)環(huán)境和工具集也在不斷發(fā)展，支持更高抽象級別的編程，開發(fā)人員更容易訪問FPGA編程。

英特爾最近在研究下一代DNN的各種GEMM操作。開發(fā)了用于FPGA的DNN硬件加速模板，為開發(fā)稀疏矩陣算法和自定義數據類型提供了一流的硬件支持。該模板是為了支持各種下一代DNN而開發(fā)，并且可以定制，為用戶給定的DNN變體生成優(yōu)化的FPGA硬件實例。

該模板被用于運行和評估下一代DNN的各種關鍵矩陣乘法操作，當前和下一代FPGA (Arria 10, Stratix 10)以及最新的高性能Titan X Pascal GPU.本研究結果發(fā)現，與Titan X Pascal GPU相比，在pruned, Int6和二值網絡學習上（pruned, Int6, and binarized）DNNs的GEMM操作上，Stratix 10 FPGA的性能分別是Titan X Pascal GPU的1.1倍、1.5倍和5.4倍。

這些測試還表明，Arria 10和Stratix 10 FPGA相對于Titan X GPU提供了令人滿意的能源效率(TOP/sec/watt)，與Titan X相比，這兩種設備的能源效率都提高了3到10倍。雖然GPU一直是支持DNN的無可爭議的選擇，但最近對兩代Intel FPGA (Arria 10和Stratix 10)和最新的Titan X GPU的性能比較表明，當前DNN算法的趨勢有利于FPGA，甚至FPGA可能提供更好的性能。