在《內(nèi)存隨機(jī)訪問也比順序慢，帶你深入理解內(nèi)存IO過程》一文中，我們理解了內(nèi)存IO的內(nèi)部實(shí)現(xiàn)過程，知道了內(nèi)存的隨機(jī)IO比順序IO要慢，并對延遲時(shí)間進(jìn)行了大概的估算。那么我們今天來用代碼的方式來實(shí)踐一下，看看在我們的項(xiàng)目工程中，內(nèi)存訪問的在不同的訪問場景下延時(shí)究竟是個(gè)什么表現(xiàn)。

1、先測順序IO情況

測試原理就是定義一個(gè)指定大小的double（8字節(jié)）數(shù)組，然后以指定的步長去循環(huán)。這里面的變量有兩個(gè)。核心代碼如下：

在這個(gè)核心代碼的基礎(chǔ)上，我們有兩個(gè)可調(diào)節(jié)變量：

一是數(shù)組大小，數(shù)組越小，高速緩存命中率越高，平均延時(shí)就會(huì)越低。

二是循環(huán)步長，步長越小，順序性越好，同樣也會(huì)增加緩存命中率，平均延時(shí)也低。我們在測試的過程中采取的辦法是，固定其中一個(gè)變量，然后動(dòng)態(tài)調(diào)節(jié)另外一個(gè)變量來查看效果。

另外說明一下，這個(gè)代碼測試中考慮的幾個(gè)額外的開銷的處理情況。

1.加法開銷：由于加法指令簡單，一個(gè)CPU周期就可完成，CPU周期比內(nèi)存周期要快，所以暫且忽略它。
2.耗時(shí)統(tǒng)計(jì)：這涉及到高開銷的系統(tǒng)調(diào)用，本實(shí)驗(yàn)通過跑1000次取一次耗時(shí)的方式來降低影響。

場景一：固定數(shù)組大小2K，調(diào)節(jié)步長

數(shù)組足夠小的時(shí)候，L1 cache全部都能裝的下。內(nèi)存IO發(fā)生較少，大部分都是高效的緩存IO，所以我這里看到的內(nèi)存延時(shí)只有1ns左右，這其實(shí)只是虛擬地址轉(zhuǎn)換+L1訪問的延時(shí)。

場景二：固定步長為8，數(shù)組從32K到64M

當(dāng)數(shù)組越來越大，Cache裝不下，導(dǎo)致穿透高速緩存，到內(nèi)存實(shí)際IO的次數(shù)就會(huì)變多，平均耗時(shí)就增加

場景三：步長為32，數(shù)組從32K到64M

和場景二相比，步長變大以后，局部性變差，穿透的內(nèi)存IO進(jìn)一步增加。雖然數(shù)據(jù)量一樣大，但是平均耗時(shí)就會(huì)繼續(xù)有所上漲。不過雖然穿透增加，但由于訪問地址仍然相對比較連續(xù)，所以即使發(fā)生內(nèi)存IO也絕大部分都是行地址不變的順序IO情況。所以耗時(shí)在9ns左右，和之前估算大致相符！

另外注意一個(gè)細(xì)節(jié)，就是隨著數(shù)組從64M到32M變化的過程中。耗時(shí)有幾個(gè)明顯的下降點(diǎn)，分別是8M，256K和32K。這是因?yàn)楸緳C(jī)的CPU的L1大小是32K，L2是256K，L3是12M。在數(shù)據(jù)集32K的時(shí)候，L1全能裝的下，所有基本都是高速緩存IO。256K的時(shí)候、8M的時(shí)候，雖然L1命中率下降，但是L2、L3訪問速度仍然比真正的內(nèi)存IO快。但是超過12M以后越多，真正的內(nèi)存IO就越來越多了。

2、再測隨機(jī)IO情況

在順序的實(shí)驗(yàn)場景里，數(shù)組的下標(biāo)訪問都是比較有規(guī)律地遞增。在隨機(jī)IO的測試中，我們要徹底打亂這個(gè)規(guī)律，提前隨機(jī)好一個(gè)下標(biāo)數(shù)組，實(shí)驗(yàn)時(shí)不停地訪問數(shù)組的各個(gè)隨機(jī)位置。

這實(shí)際比上面的實(shí)驗(yàn)多了一次內(nèi)存IO，但由于對random_index_arr的訪問時(shí)順序的，而且該數(shù)組也比較小。我們假設(shè)它全部能命中高速緩存，所以暫且忽略它的影響。

隨機(jī)實(shí)驗(yàn)場景：數(shù)組從32K到64M

這次的數(shù)組訪問就沒有步長的概念了，全部打亂，隨機(jī)訪問。當(dāng)數(shù)據(jù)集比較小的時(shí)候、L1、L2、L3還能抗一抗。但當(dāng)增加到16M、64M以后，穿透到內(nèi)存的IO情況會(huì)變多，穿透過去以后極大可能行地址也會(huì)變。在64M的數(shù)據(jù)集中，內(nèi)存的延時(shí)竟然下降到了38.4ns，和我們估算的也基本一致。

3、結(jié)論

有了實(shí)驗(yàn)數(shù)據(jù)的佐證，進(jìn)一步證實(shí)了《內(nèi)存隨機(jī)訪問也比順序慢，帶你深入理解內(nèi)存IO過程》的結(jié)論。內(nèi)存存在隨機(jī)訪問比順序訪問慢的多的情況，大概是4:1的關(guān)系。所以不要覺得內(nèi)存很快，就用起來太隨性了!



審核編輯：劉清