驗(yàn)證存儲(chǔ)系統(tǒng)性能是否強(qiáng)大通常會(huì)選擇各種測(cè)試跑分看結(jié)果，然而對(duì)比性能就可以發(fā)現(xiàn)真實(shí)世界的工作負(fù)載與實(shí)驗(yàn)室綜合工作負(fù)載差別極大，通過(guò)后者直接應(yīng)用顯然不太現(xiàn)實(shí)。而真實(shí)世界的工作負(fù)載則能夠應(yīng)用于優(yōu)化,設(shè)計(jì),驗(yàn)證應(yīng)用軟件，也可以針對(duì)真實(shí)的應(yīng)用需求選擇適合類別的SSD和數(shù)量。

SNIA固態(tài)存儲(chǔ)技術(shù)小組主席Eden Kim(右一)和Trust-tek公司技術(shù)支持經(jīng)理蔣伸億

2018年12月12日，在中國(guó)存儲(chǔ)與數(shù)據(jù)峰會(huì)，存儲(chǔ)開(kāi)發(fā)者論壇上，SNIA固態(tài)存儲(chǔ)技術(shù)小組主席Eden Kim和Trust-tek公司技術(shù)支持經(jīng)理蔣伸億一起為大家?guī)?lái)《性能對(duì)比-真實(shí)世界工作負(fù)載vs實(shí)驗(yàn)室綜合工作負(fù)載》。

以下為演講實(shí)錄：

存儲(chǔ)系統(tǒng)遭遇到很大的壓力時(shí)，會(huì)出現(xiàn)擁堵問(wèn)題，不管是云計(jì)算應(yīng)用還是云部署到設(shè)備上的應(yīng)用，終端硬件本身的性能壓力。因此前幾位演講人他們講了很多的方法，通過(guò)很多的算法和架構(gòu)的改變，軟件的不同部署，來(lái)去解決這個(gè)網(wǎng)絡(luò)擁堵的問(wèn)題。

但我們介紹的主題是回歸到基本原理，他們?cè)诮鉀Q擁堵問(wèn)題的時(shí)候，最基本的出發(fā)點(diǎn)就是存儲(chǔ)數(shù)據(jù)量的移動(dòng)，它的真實(shí)負(fù)載到底是怎么樣的，它的塊大小和隊(duì)列深度都是實(shí)時(shí)在變化的，所以如果能先從基本方向去了解它的工作負(fù)載內(nèi)容，對(duì)后續(xù)解決擁堵的問(wèn)題，肯定是更有效率的，因此我們今天會(huì)針對(duì)如何去分析真實(shí)世界工作負(fù)載，與實(shí)驗(yàn)室負(fù)載有什么樣性能的差異向大家分享我們研究的結(jié)果。

第一個(gè)重點(diǎn)是所有現(xiàn)在的數(shù)據(jù)中心或云存儲(chǔ)的性能，他跟真實(shí)的工作負(fù)載具有很大的相關(guān)性，這些所有的系統(tǒng)架構(gòu)上為了要優(yōu)化和設(shè)計(jì)階段再驗(yàn)證的階段需要考慮真實(shí)負(fù)載對(duì)系統(tǒng)的影響，以及對(duì)它未來(lái)采購(gòu)SSD，如果得到性價(jià)比最高的SSD，應(yīng)用在各種不同的應(yīng)用服務(wù)上是很重要的事情。

所有的這些真實(shí)世界工作負(fù)載都可以在不同服務(wù)器上抓取，這些負(fù)載會(huì)按照不同硬件配置有不同的行為，所以性能測(cè)試真的跟真實(shí)負(fù)載有很直接的關(guān)系，現(xiàn)在最重要的就是真實(shí)工作負(fù)載會(huì)對(duì)你的系統(tǒng)造成很大的性能缺陷。

因此透過(guò)所有的真實(shí)工作負(fù)載，我們可以去了解，在長(zhǎng)時(shí)間提供服務(wù)的整體情況下，你的實(shí)時(shí)負(fù)載變化，你可以透過(guò)這樣的工作負(fù)載的內(nèi)容去做一些東西，比如雙十一的時(shí)候，可能流量會(huì)很大，如果去分解流量，或者說(shuō)過(guò)年過(guò)節(jié)的時(shí)候，很多網(wǎng)絡(luò)擁堵的問(wèn)題，如何去解決？

另外進(jìn)行軟件的優(yōu)化或者互聯(lián)的測(cè)試，甚至對(duì)于一些實(shí)際遭遇的狀況，我們都可以透過(guò)真實(shí)工作負(fù)載找到它的蛛絲馬跡，來(lái)進(jìn)行錯(cuò)誤事項(xiàng)分析，最后可能對(duì)于服務(wù)器或者存儲(chǔ)設(shè)備的合格驗(yàn)證也會(huì)用負(fù)載當(dāng)做一個(gè)基礎(chǔ)，通過(guò)這個(gè)基礎(chǔ)來(lái)考驗(yàn)存儲(chǔ)本身的性能。

這是一張很大的架構(gòu)圖，現(xiàn)在存儲(chǔ)系統(tǒng)架構(gòu)中，云的一些應(yīng)用程序、進(jìn)程、存儲(chǔ)架構(gòu)可能走不通的界面，像是fabric，或者是ethenet或者是infinband，所有的數(shù)據(jù)你可以想象終端用戶在網(wǎng)頁(yè)挑選的任何一個(gè)按紐，這個(gè)讀寫(xiě)的請(qǐng)求經(jīng)過(guò)以太網(wǎng)進(jìn)入到云服務(wù)里，如何進(jìn)入到本地，網(wǎng)絡(luò)擁堵就是同時(shí)有太多人在本地敲下了讀寫(xiě)的需求。

所以這個(gè)時(shí)候流量會(huì)非常大，這些流量可能在不同的時(shí)間點(diǎn)，在架構(gòu)里每一個(gè)不同的硬件架構(gòu)或者軟件的開(kāi)發(fā)層上都有不同的負(fù)載行為，所以我們的工具要能夠去在不同的內(nèi)容，按照每一個(gè)不同的系統(tǒng)開(kāi)發(fā)商提供的不同解決方案，在不同的內(nèi)容抓取它的負(fù)載，透過(guò)真實(shí)的工作負(fù)載，就可以對(duì)這一個(gè)擁堵問(wèn)題去提供一些好的解決方案，甚至是設(shè)計(jì)一些很好的算法，來(lái)解決這些問(wèn)題。

我們來(lái)看看真實(shí)的負(fù)載和隨機(jī)生成的負(fù)載有多大的差距。

這是一家零售商網(wǎng)站的服務(wù)器，下面是一個(gè)windows系統(tǒng)，我們?cè)贗O上看它負(fù)載，可以看到它跟我們實(shí)驗(yàn)室的負(fù)載不一樣，這個(gè)用的是不同系統(tǒng)，真正所有的主要特性在這里貢獻(xiàn)了6%的IO行為。在24小時(shí)的負(fù)載里面，所有的IO在不斷的變化，在凌晨的時(shí)間有一個(gè)備份動(dòng)作，所以有一個(gè)很高的IO出來(lái)，其余的部分你可以想象在這個(gè)不同的離散時(shí)間點(diǎn)里面，有很多不同的用戶登陸服務(wù)器做讀寫(xiě)訪問(wèn)，所以通過(guò)IO我們可以理解真實(shí)負(fù)載跟實(shí)驗(yàn)室負(fù)載有很大的差別，我們不能單純的在意4K或者64K和大流量148K做性能和流量的檢測(cè)。

另一個(gè)，我們也做了另一個(gè)真實(shí)負(fù)載測(cè)試，這是一個(gè)GPS定位系統(tǒng)，在這個(gè)案例里，我們有9個(gè)IO流，這9個(gè)貢獻(xiàn)了86%的IO，在24小時(shí)里，QD的深度變化是在9到368，這個(gè)真實(shí)負(fù)載跟剛剛前面看到的負(fù)載變異性比較大，它的IOPS或者深度放的比較大，這個(gè)級(jí)別是比較平緩的，所以你會(huì)感覺(jué)到很強(qiáng)烈，在不同的系統(tǒng)不同的應(yīng)用中負(fù)載長(zhǎng)的完全不一樣。

工作負(fù)載的IO可以給我們很多的信息，以這個(gè)圖表來(lái)看，它可以給你這些進(jìn)程任何一個(gè)時(shí)間的IOPS和IO的總量和TRIMs，現(xiàn)在負(fù)載做TRIMs存儲(chǔ)抹除的動(dòng)作，會(huì)有很大的影響，會(huì)造成流量上的使用，這個(gè)使用會(huì)導(dǎo)致正常業(yè)務(wù)的一些IO在這個(gè)時(shí)間點(diǎn)的時(shí)延會(huì)增加，所以在這邊抹除存儲(chǔ)空間的時(shí)候，會(huì)有很大的吞吐量，但是相對(duì)來(lái)講TRIM最大的時(shí)延會(huì)有14秒，所以可能會(huì)造成很大的影響，所以對(duì)負(fù)載應(yīng)用很關(guān)心這樣的行為，所以通過(guò)負(fù)載和IOmap地圖可以獲得很多在真正影響性能上的指標(biāo)，通過(guò)這些指標(biāo)可以提供更多的想法，讓設(shè)計(jì)驗(yàn)證或者優(yōu)化都可以有很好的一些主意和方向去做這些事情解決問(wèn)題。

所以后面我們針對(duì)一些負(fù)載來(lái)對(duì)兩個(gè)指標(biāo)，一個(gè)IOPS，一個(gè)是時(shí)延，通過(guò)不同的測(cè)試，比如PM（持久性內(nèi)存）或者NVMe，我們用真實(shí)的負(fù)載和綜合負(fù)載，以及透過(guò)加壓的方式，去提高深度來(lái)看看每一種不同的存儲(chǔ)介質(zhì)在面對(duì)不同的負(fù)載情況下，它的性能之間是不是有很大的差異，是不是我們想象的好的盤(pán)不管怎么樣都有很好的性能，壞的盤(pán)會(huì)不會(huì)是性能不好，這個(gè)部分我們請(qǐng)Eden Kim介紹一下。

在柱狀圖中，黃色代表隨機(jī)負(fù)載，它的塊大小是8K，讀寫(xiě)比例是讀65寫(xiě)35，藍(lán)色是我們真實(shí)世界剛剛看到的塊IO，我們?cè)诓煌瑑蓚€(gè)條件下來(lái)看它的表現(xiàn)。各位可能對(duì)這個(gè)結(jié)果感興趣，因?yàn)榇蠹邑?fù)責(zé)的工作就是設(shè)計(jì)，我們針對(duì)的測(cè)試對(duì)象是NVMe，還有AIC卡的，也有U.2的接口，還有M.2接口，我們有三個(gè)不同的顏色，黃色是合成的負(fù)載，第二部分真實(shí)負(fù)載，第三個(gè)是我們對(duì)真實(shí)的負(fù)載進(jìn)行加壓以后，加壓隊(duì)列深度五十倍以后看到的結(jié)果，不同的盤(pán)里面，藍(lán)色的部分都可以提高很多，第一個(gè)AIC即使加壓了，它的IOP還不是很高，所以你可以通過(guò)這樣的測(cè)試得到很有效率的結(jié)果。

從NVMe角度來(lái)講，我們的測(cè)試主要呈現(xiàn)支持負(fù)載里面，因?yàn)樨?fù)載本身它的壓力是比較輕的，所以我們現(xiàn)在透過(guò)QoS增加，看看平均的時(shí)延和QoS和IOPS的反應(yīng)，IPOS隨著加壓可以呈現(xiàn)線性的增加，在時(shí)延QoS也是合理性的增加，這個(gè)盤(pán)可以讓設(shè)計(jì)者很理解我的盤(pán)面對(duì)真實(shí)負(fù)載，所有的表現(xiàn)都符合，不管壓力加大與否我可以有很好的穩(wěn)定輸出表現(xiàn)。

你可以看到在負(fù)載的情況下，它的性能是第一名，然后是ABC，分別是2，3，4名，當(dāng)我們應(yīng)用的是真實(shí)世界負(fù)載以后，你會(huì)看到這個(gè)排序是改變的，排序的表現(xiàn)已經(jīng)不一樣了。你也可以通過(guò)某種方式來(lái)看時(shí)延和QoS表現(xiàn)，加壓在五倍的時(shí)候可以線性增加，但是加壓五到十倍，因?yàn)榭赡苓_(dá)到的性能上的飽和，所以它的IOPS降下來(lái)了，但是它的擴(kuò)展性也增加了，是一個(gè)很大的瓶頸點(diǎn)。

最后我們簡(jiǎn)單的總結(jié)一下，真實(shí)世界負(fù)載，不管在數(shù)據(jù)中心還是云存儲(chǔ)的性能，在設(shè)計(jì)或者驗(yàn)證上都是很關(guān)鍵的，通過(guò)IO流和壓力的變化，是對(duì)存儲(chǔ)系統(tǒng)來(lái)講有很大的相關(guān)性，通過(guò)真實(shí)世界負(fù)載來(lái)看看性能表現(xiàn)是很重要的，服務(wù)器或者在軟件的層面，在存儲(chǔ)和軟件都應(yīng)該通過(guò)真實(shí)世界負(fù)載合作，來(lái)配合做一些優(yōu)化，大家如果感興趣負(fù)載，可以看這個(gè)免費(fèi)工具——來(lái)測(cè)試一下你的系統(tǒng)工作負(fù)載。