利用高密度內(nèi)存顯著優(yōu)化人工智能欺詐檢測(cè)的基礎(chǔ)設(shè)施成本

人工智能欺詐檢測(cè)是金融科技公司的一項(xiàng)關(guān)鍵工作。欺詐監(jiān)控涉及多種機(jī)制，例如采用自然語言處理技術(shù)篩選通信中的可疑內(nèi)容、利用機(jī)器學(xué)習(xí)區(qū)分欺詐交易和合法交易，以及運(yùn)用分析技術(shù)區(qū)分正常用戶行為和異常行為，并基于歷史數(shù)據(jù)預(yù)測(cè)未來趨勢(shì)。

就關(guān)鍵計(jì)算活動(dòng)而言，持續(xù)進(jìn)行的實(shí)時(shí)推理工作核心在于處理交易、生成欺詐評(píng)分以及采取諸如阻止違規(guī)交易等操作。這項(xiàng)工作負(fù)載涉及大量KB級(jí)的小型交易數(shù)據(jù)，這些交易需要以正確的格式存儲(chǔ)并實(shí)時(shí)處理。

內(nèi)存數(shù)據(jù)庫(kù)(IMDB)可以滿足這種工作負(fù)載的需求，它以適合此類工作的格式提供存儲(chǔ)，同時(shí)與典型的塊訪問存儲(chǔ)相比，還能實(shí)現(xiàn)更快的加載/存儲(chǔ)I/0性能。

此類數(shù)據(jù)庫(kù)所需的內(nèi)存容量巨大，由于每臺(tái)服務(wù)器的實(shí)際內(nèi)存有限，因此實(shí)現(xiàn)起來極具挑戰(zhàn)性。對(duì)于需要服務(wù)器集群的大型工作負(fù)載，必須考慮多項(xiàng)總體擁有成本(TCO)因素。

·需要更多服務(wù)器：為了應(yīng)對(duì)工作負(fù)載，必須部署更多服務(wù)器，而這往往僅是為了滿足IMDB對(duì)內(nèi)存的增量需求。這導(dǎo)致客戶最終要為額外的計(jì)算、存儲(chǔ)、安全和系統(tǒng)軟件付費(fèi)，而這些實(shí)際上并非必要，根本自的是為了獲得額外的內(nèi)存。

·網(wǎng)絡(luò)復(fù)雜性增加：網(wǎng)絡(luò)復(fù)雜性的提升不僅體現(xiàn)在數(shù)據(jù)中心內(nèi)部的物理基礎(chǔ)設(shè)施上，也體現(xiàn)在IMDB軟件的復(fù)雜性上一一這增加了電力需求，并損害了性能和成本。

·可靠性問題：鑒于客戶數(shù)據(jù)的敏感性和隱私性，金融科技公司通常會(huì)維護(hù)自己的數(shù)據(jù)中心。因此，底層基礎(chǔ)設(shè)施的可靠性對(duì)數(shù)據(jù)完整性至關(guān)重要。由余節(jié)點(diǎn)和復(fù)雜網(wǎng)絡(luò)構(gòu)成的臃腫基礎(chǔ)設(shè)施，需要通過更多的系統(tǒng)復(fù)制來減輕故障的影響。

添加DRAM的成本

解決這個(gè)問題的一個(gè)看似簡(jiǎn)單的方案是增加每個(gè)服務(wù)器節(jié)點(diǎn)的內(nèi)存容量，但實(shí)際實(shí)施起來卻并非易事。金融科技基礎(chǔ)設(shè)施中典型的內(nèi)存金字塔結(jié)構(gòu)如下所示。

內(nèi)存需求主要由DRAM滿足，而DRAM的每GB價(jià)格通常是SSD的10倍。通過DRAM增加節(jié)點(diǎn)內(nèi)存容量成本很高。除了成本因素外，DRAM的容量擴(kuò)展在技術(shù)上無法達(dá)到SSD的水平：插槽數(shù)量有限，單張內(nèi)存卡的容量也有限。即使是最昂貴的企業(yè)級(jí)系統(tǒng)，目前DRAM總?cè)萘恳矡o法超過20TB，而SSD的容量可以達(dá)到PB級(jí)。

使用CXL進(jìn)行內(nèi)存擴(kuò)展

為了展示一種更高效的方法，下圖使用CXL設(shè)備增加了兩個(gè)內(nèi)存層。CXL支持更符合AI工作負(fù)載需求的內(nèi)存語義(如一致性、小容量加載/存儲(chǔ)/O)，使客戶能夠構(gòu)建高密度內(nèi)存系統(tǒng)，在無需額外服務(wù)器的情況下提供更大容量，從而優(yōu)化總體擁有成本(TCO)。與SSD相比，CXL提供更快的性能；與DRAM相比，其容量也更高。

用于直連或遠(yuǎn)程存儲(chǔ)的CXL協(xié)議預(yù)計(jì)將成為面向人工智能、高性能計(jì)算和云數(shù)據(jù)中心工作負(fù)載的高端服務(wù)器的標(biāo)準(zhǔn)功能。它將在內(nèi)存擴(kuò)展、內(nèi)存共享和內(nèi)存池化等應(yīng)用場(chǎng)景中發(fā)揮重要作用。除了可擴(kuò)展性之外，它還提供滿足人工智能欺詐檢測(cè)工作負(fù)載需求的帶寬和延遲性能。

RAS,SLAS,可觀測(cè)性

除了性能和總體擁有成本(TCO)的節(jié)省之外，金融科技提供商還迫切需要確保其數(shù)據(jù)中心服務(wù)器集群中所有系統(tǒng)內(nèi)存的可靠性、可維護(hù)性、可用性(RAS)和可觀測(cè)性。他們必須持續(xù)監(jiān)控設(shè)備故障，其發(fā)生頻率往往高于預(yù)期。能夠快速、及時(shí)地檢測(cè)和干預(yù)這些設(shè)備的問題，是金融科技提供商履行關(guān)鍵服務(wù)級(jí)別協(xié)議(SLA)的基礎(chǔ)。

因此，該數(shù)據(jù)的可靠性、可用性和基礎(chǔ)架構(gòu)就顯得至關(guān)重要。如果基礎(chǔ)架構(gòu)變得臃腫不堪，金融科技支持機(jī)構(gòu)將不得不應(yīng)對(duì)持續(xù)不斷的故障，從而需要維護(hù)多個(gè)數(shù)據(jù)副本才能滿足其對(duì)客戶承諾的服務(wù)級(jí)別協(xié)議(SLA)。

三星Cognos解決方案

CXL內(nèi)存解決方案的部署可以通過三星的人工智能增強(qiáng)型內(nèi)存管理與協(xié)調(diào)軟件Samsung Cognos來實(shí)現(xiàn)。Cognos為實(shí)現(xiàn)直連內(nèi)存提供了關(guān)鍵支持，其特性包括：

·管理高密度、多設(shè)備內(nèi)存池，并具備易于擴(kuò)展性，以解決內(nèi)存滯留問題。

·實(shí)現(xiàn)應(yīng)用感知的內(nèi)存編排，以最大化分層內(nèi)存的性能。

·基于欺詐檢測(cè)服務(wù)級(jí)別協(xié)議(SLA)指標(biāo)的自動(dòng)數(shù)據(jù)分層，結(jié)合本地化和熱點(diǎn)數(shù)據(jù)模式管理，以及三星設(shè)備中的設(shè)備級(jí)接口，實(shí)現(xiàn)數(shù)據(jù)分層。

·直觀的控制臺(tái)，方便進(jìn)行設(shè)備和應(yīng)用程序級(jí)別的可觀測(cè)性分析。

·對(duì)應(yīng)用程序而言具有透明性，因此應(yīng)用程序無需修改即可使用

Cognoso

Cognos通過RAS和可觀測(cè)性功能，簡(jiǎn)化了服務(wù)器集群的監(jiān)控和維護(hù)。它為客戶提供了一種無需人工干預(yù)的可擴(kuò)展內(nèi)存管理方法，并能與欺詐檢測(cè)應(yīng)用程序所需的IMDB實(shí)現(xiàn)無縫集成。通過在實(shí)際運(yùn)行環(huán)境中采用Cognos和CXL，用戶成功實(shí)現(xiàn)了總體擁有成本提升4倍的成效，同時(shí)滿足了其在延遲和吞吐量方面的服務(wù)等級(jí)協(xié)議目標(biāo)。

由于無需進(jìn)行任何應(yīng)用程序?qū)用娴母模虼嗽摻鉀Q方案不僅適用于本文討論的AI欺詐檢測(cè)負(fù)載，對(duì)許多其他IMDB負(fù)載也同樣具有吸引力。