利用高密度內(nèi)存顯著優(yōu)化人工智能欺詐檢測的基礎(chǔ)設(shè)施成本

人工智能欺詐檢測是金融科技公司的一項關(guān)鍵工作。欺詐監(jiān)控涉及多種機制，例如采用自然語言處理技術(shù)篩選通信中的可疑內(nèi)容、利用機器學習區(qū)分欺詐交易和合法交易，以及運用分析技術(shù)區(qū)分正常用戶行為和異常行為，并基于歷史數(shù)據(jù)預測未來趨勢。

就關(guān)鍵計算活動而言，持續(xù)進行的實時推理工作核心在于處理交易、生成欺詐評分以及采取諸如阻止違規(guī)交易等操作。這項工作負載涉及大量KB級的小型交易數(shù)據(jù)，這些交易需要以正確的格式存儲并實時處理。

內(nèi)存數(shù)據(jù)庫(IMDB)可以滿足這種工作負載的需求，它以適合此類工作的格式提供存儲，同時與典型的塊訪問存儲相比，還能實現(xiàn)更快的加載/存儲I/0性能。

此類數(shù)據(jù)庫所需的內(nèi)存容量巨大，由于每臺服務(wù)器的實際內(nèi)存有限，因此實現(xiàn)起來極具挑戰(zhàn)性。對于需要服務(wù)器集群的大型工作負載，必須考慮多項總體擁有成本(TCO)因素。

·需要更多服務(wù)器：為了應對工作負載，必須部署更多服務(wù)器，而這往往僅是為了滿足IMDB對內(nèi)存的增量需求。這導致客戶最終要為額外的計算、存儲、安全和系統(tǒng)軟件付費，而這些實際上并非必要，根本自的是為了獲得額外的內(nèi)存。

·網(wǎng)絡(luò)復雜性增加：網(wǎng)絡(luò)復雜性的提升不僅體現(xiàn)在數(shù)據(jù)中心內(nèi)部的物理基礎(chǔ)設(shè)施上，也體現(xiàn)在IMDB軟件的復雜性上一一這增加了電力需求，并損害了性能和成本。

·可靠性問題：鑒于客戶數(shù)據(jù)的敏感性和隱私性，金融科技公司通常會維護自己的數(shù)據(jù)中心。因此，底層基礎(chǔ)設(shè)施的可靠性對數(shù)據(jù)完整性至關(guān)重要。由余節(jié)點和復雜網(wǎng)絡(luò)構(gòu)成的臃腫基礎(chǔ)設(shè)施，需要通過更多的系統(tǒng)復制來減輕故障的影響。

添加DRAM的成本

解決這個問題的一個看似簡單的方案是增加每個服務(wù)器節(jié)點的內(nèi)存容量，但實際實施起來卻并非易事。金融科技基礎(chǔ)設(shè)施中典型的內(nèi)存金字塔結(jié)構(gòu)如下所示。

內(nèi)存需求主要由DRAM滿足，而DRAM的每GB價格通常是SSD的10倍。通過DRAM增加節(jié)點內(nèi)存容量成本很高。除了成本因素外，DRAM的容量擴展在技術(shù)上無法達到SSD的水平：插槽數(shù)量有限，單張內(nèi)存卡的容量也有限。即使是最昂貴的企業(yè)級系統(tǒng)，目前DRAM總?cè)萘恳矡o法超過20TB，而SSD的容量可以達到PB級。

使用CXL進行內(nèi)存擴展

為了展示一種更高效的方法，下圖使用CXL設(shè)備增加了兩個內(nèi)存層。CXL支持更符合AI工作負載需求的內(nèi)存語義(如一致性、小容量加載/存儲/O)，使客戶能夠構(gòu)建高密度內(nèi)存系統(tǒng)，在無需額外服務(wù)器的情況下提供更大容量，從而優(yōu)化總體擁有成本(TCO)。與SSD相比，CXL提供更快的性能；與DRAM相比，其容量也更高。

用于直連或遠程存儲的CXL協(xié)議預計將成為面向人工智能、高性能計算和云數(shù)據(jù)中心工作負載的高端服務(wù)器的標準功能。它將在內(nèi)存擴展、內(nèi)存共享和內(nèi)存池化等應用場景中發(fā)揮重要作用。除了可擴展性之外，它還提供滿足人工智能欺詐檢測工作負載需求的帶寬和延遲性能。

RAS,SLAS,可觀測性

除了性能和總體擁有成本(TCO)的節(jié)省之外，金融科技提供商還迫切需要確保其數(shù)據(jù)中心服務(wù)器集群中所有系統(tǒng)內(nèi)存的可靠性、可維護性、可用性(RAS)和可觀測性。他們必須持續(xù)監(jiān)控設(shè)備故障，其發(fā)生頻率往往高于預期。能夠快速、及時地檢測和干預這些設(shè)備的問題，是金融科技提供商履行關(guān)鍵服務(wù)級別協(xié)議(SLA)的基礎(chǔ)。

因此，該數(shù)據(jù)的可靠性、可用性和基礎(chǔ)架構(gòu)就顯得至關(guān)重要。如果基礎(chǔ)架構(gòu)變得臃腫不堪，金融科技支持機構(gòu)將不得不應對持續(xù)不斷的故障，從而需要維護多個數(shù)據(jù)副本才能滿足其對客戶承諾的服務(wù)級別協(xié)議(SLA)。

三星Cognos解決方案

CXL內(nèi)存解決方案的部署可以通過三星的人工智能增強型內(nèi)存管理與協(xié)調(diào)軟件Samsung Cognos來實現(xiàn)。Cognos為實現(xiàn)直連內(nèi)存提供了關(guān)鍵支持，其特性包括：

·管理高密度、多設(shè)備內(nèi)存池，并具備易于擴展性，以解決內(nèi)存滯留問題。

·實現(xiàn)應用感知的內(nèi)存編排，以最大化分層內(nèi)存的性能。

·基于欺詐檢測服務(wù)級別協(xié)議(SLA)指標的自動數(shù)據(jù)分層，結(jié)合本地化和熱點數(shù)據(jù)模式管理，以及三星設(shè)備中的設(shè)備級接口，實現(xiàn)數(shù)據(jù)分層。

·直觀的控制臺，方便進行設(shè)備和應用程序級別的可觀測性分析。

·對應用程序而言具有透明性，因此應用程序無需修改即可使用

Cognoso

Cognos通過RAS和可觀測性功能，簡化了服務(wù)器集群的監(jiān)控和維護。它為客戶提供了一種無需人工干預的可擴展內(nèi)存管理方法，并能與欺詐檢測應用程序所需的IMDB實現(xiàn)無縫集成。通過在實際運行環(huán)境中采用Cognos和CXL，用戶成功實現(xiàn)了總體擁有成本提升4倍的成效，同時滿足了其在延遲和吞吐量方面的服務(wù)等級協(xié)議目標。

由于無需進行任何應用程序?qū)用娴母?，因此該解決方案不僅適用于本文討論的AI欺詐檢測負載，對許多其他IMDB負載也同樣具有吸引力。