緩存分區(qū)減少了關(guān)鍵任務(wù)的最壞情況下的執(zhí)行時(shí)間，從而提高了 CPU 利用率，尤其是對(duì)于多核應(yīng)用程序。

多核處理器 （MCP） 的可認(rèn)證、安全關(guān)鍵型軟件應(yīng)用程序的開發(fā)人員面臨的最大挑戰(zhàn)之一是管理對(duì)共享資源（如緩存）的訪問。MCP 顯著增加緩存爭(zhēng)用，導(dǎo)致最壞情況執(zhí)行時(shí)間 （WCET） 超過平均案例執(zhí)行時(shí)間 （ACET） 100% 或更多。由于安全關(guān)鍵型開發(fā)人員必須為 WCET 制定預(yù)算，因此平均分配的任務(wù)（關(guān)鍵和非關(guān)鍵）的時(shí)間超過了所需的時(shí)間，從而導(dǎo)致 CPU 利用率顯著降低。解決此問題的一種方法是利用支持緩存分區(qū)的 RTOS，它使開發(fā)人員能夠以減輕爭(zhēng)用和減少 WCET 的方式綁定和控制干擾模式，從而在不影響安全關(guān)鍵性的情況下最大化可用 CPU 帶寬。

緩存爭(zhēng)用

在簡(jiǎn)單的雙核處理器配置（圖 1）中，每個(gè)內(nèi)核都有自己的 CPU 和 L1 緩存。兩個(gè)內(nèi)核共享一個(gè)二級(jí)緩存。（請(qǐng)注意，未顯示共享內(nèi)存和可選 L3。

圖1：雙核配置，無需緩存分區(qū)

在此配置中，在核心 0 上執(zhí)行的應(yīng)用程序與在核心 1 上執(zhí)行的應(yīng)用程序競(jìng)爭(zhēng)整個(gè)二級(jí)緩存。（請(qǐng)注意，同一內(nèi)核上的應(yīng)用程序也會(huì)相互競(jìng)爭(zhēng) L2;緩存分區(qū)也適用于這種情況。如果核心 0 上的應(yīng)用程序 A 使用的數(shù)據(jù)映射到與核心 1 上的應(yīng)用程序 B 相同的緩存行，則會(huì)發(fā)生沖突。

例如，假設(shè) A 的數(shù)據(jù)駐留在 L2 中;對(duì)該數(shù)據(jù)的任何訪問都將花費(fèi)很少的處理器周期。但假設(shè) B 訪問的數(shù)據(jù)恰好映射到與 A 的數(shù)據(jù)相同的 L2 緩存行。此時(shí)，必須從 L2 中逐出 A 的數(shù)據(jù)（包括對(duì) RAM 的潛在“寫回”），并且必須將 B 的數(shù)據(jù)從 RAM 中引入緩存。處理此碰撞所需的時(shí)間通常由 B 收取。然后，假設(shè) A 再次訪問其數(shù)據(jù)。由于該數(shù)據(jù)不再位于 L2 中（B 的數(shù)據(jù)在其位置），因此必須從 L2 中逐出 B 的數(shù)據(jù)（包括潛在的“寫回”到 RAM），并且 A 的數(shù)據(jù)必須從 RAM 中恢復(fù)到緩存中。處理此碰撞所需的時(shí)間通常由 A 收取。

大多數(shù)時(shí)候，A和B很少會(huì)遇到這樣的碰撞。在這些情況下，它們各自的執(zhí)行時(shí)間可以被視為“平均情況”（ACET）。但是，有時(shí)，它們的數(shù)據(jù)訪問會(huì)以高頻率發(fā)生沖突。在這些情況下，它們各自的執(zhí)行時(shí)間必須被視為“最壞情況”（WCET）。

在開發(fā)可認(rèn)證的安全關(guān)鍵型軟件時(shí)，必須為最壞情況的行為預(yù)算應(yīng)用程序的執(zhí)行時(shí)間。此類軟件必須有足夠的時(shí)間預(yù)算才能在每次執(zhí)行時(shí)完成其預(yù)期功能，以免導(dǎo)致不安全的故障情況。安全關(guān)鍵型 RTOS 必須強(qiáng)制實(shí)施時(shí)間分區(qū)，以便每個(gè)應(yīng)用程序都有固定的 CPU 時(shí)間預(yù)算來執(zhí)行。

由于多個(gè)內(nèi)核上的多個(gè)應(yīng)用程序可能會(huì)產(chǎn)生對(duì) L2 緩存的爭(zhēng)用，因此 MCP 上的 WCET 通常比 ACET 高得多。由于可認(rèn)證的安全關(guān)鍵型應(yīng)用程序必須有時(shí)間預(yù)算來容納其 WCET，這種情況會(huì)導(dǎo)致大量預(yù)算但未使用的時(shí)間，從而導(dǎo)致 CPU 利用率顯著下降。

緩存分區(qū)

緩存分區(qū)通過減少 WCET 來提高 CPU 利用率，從而減少必須預(yù)算以容納 WCET 的時(shí)間量。同樣，在簡(jiǎn)單的雙核處理器配置（圖 2）中，每個(gè)內(nèi)核都有自己的 CPU 和 L1 緩存，并且兩個(gè)內(nèi)核共享一個(gè) L2 緩存。

圖2：具有緩存分區(qū)的雙核配置

在此配置中，RTOS 對(duì) L2 緩存進(jìn)行分區(qū)，以便每個(gè)內(nèi)核都有自己的 L2 段，這意味著內(nèi)核 0 上的應(yīng)用程序使用的數(shù)據(jù)將僅緩存在內(nèi)核 0 的 L2 分區(qū)中。同樣，核心 1 上的應(yīng)用程序使用的數(shù)據(jù)將僅緩存在核心 1 的 L2 分區(qū)中。這種分區(qū)消除了不同內(nèi)核上的應(yīng)用程序通過 L2 沖突相互干擾的可能性。如果沒有這種干擾，應(yīng)用程序 WCET 和 ACET 之間的增量通常比沒有緩存分區(qū)的情況要低得多。通過限制和控制這些干擾模式，緩存分區(qū)使應(yīng)用程序執(zhí)行時(shí)間更具確定性，并使開發(fā)人員能夠更嚴(yán)格地預(yù)算執(zhí)行時(shí)間，從而保持較高的處理器利用率。

測(cè)試環(huán)境和應(yīng)用程序

為了演示緩存分區(qū)的優(yōu)勢(shì)，DDC-I 使用 Deos（其可認(rèn)證、安全關(guān)鍵、時(shí)間和空間分區(qū)的 RTOS）來運(yùn)行一套四個(gè)內(nèi)存密集型測(cè)試應(yīng)用程序，所有這些應(yīng)用程序都具有一系列數(shù)據(jù)/代碼大小、順序和隨機(jī)訪問策略以及各種工作集大?。?/p>

只讀

只寫

復(fù)制

代碼執(zhí)行

測(cè)試是在具有 32 KB L1 數(shù)據(jù)緩存、24 KB L1 指令緩存和 512 KB 統(tǒng)一 L2 緩存的 1.6 GHz 凌動(dòng)處理器 （x86） 上進(jìn)行的。請(qǐng)注意，雖然這些測(cè)試使用了單核 x86 處理器，但 Deos 的緩存分區(qū)功能同樣適用于在同一內(nèi)核上執(zhí)行的應(yīng)用程序（這些應(yīng)用程序也競(jìng)爭(zhēng) L2）。此外，它不依賴于 x86 處理器所特有的任何功能，并且同樣適用于其他處理器類型（如 ARM 或 PowerPC）。

測(cè)試是在有和沒有“緩存垃圾箱”應(yīng)用程序的情況下運(yùn)行的，該應(yīng)用程序從L2中逐出測(cè)試應(yīng)用程序數(shù)據(jù)/代碼，并使用自己的數(shù)據(jù)/代碼“臟”L2。實(shí)際上，從測(cè)試應(yīng)用程序的角度來看，緩存垃圾程序?qū)?L2 置于最壞情況狀態(tài)。也就是說，緩存垃圾箱模擬真實(shí)場(chǎng)景，其中不同的應(yīng)用程序同時(shí)運(yùn)行并爭(zhēng)用共享的 L2 緩存。

每個(gè)測(cè)試應(yīng)用程序在三種情況下執(zhí)行。在場(chǎng)景 1 中，在沒有緩存分區(qū)或緩存垃圾的情況下執(zhí)行，測(cè)試應(yīng)用程序?qū)⒏?jìng)爭(zhēng)整個(gè) 512 KB 二級(jí)緩存以及 RTOS 內(nèi)核和各種調(diào)試工具。此測(cè)試建立基線平均性能，其中每個(gè)測(cè)試都以“平均”數(shù)量的 L2 爭(zhēng)用執(zhí)行。

在不使用緩存分區(qū)的場(chǎng)景 2 中，測(cè)試應(yīng)用程序與 RTOS 內(nèi)核、場(chǎng)景 1 中使用的同一組調(diào)試工具以及惡意緩存垃圾程序應(yīng)用程序競(jìng)爭(zhēng)整個(gè) 512 KB 二級(jí)緩存。此測(cè)試建立基線最壞情況性能，其中每個(gè)測(cè)試在來自其他應(yīng)用程序（主要是緩存垃圾程序）的最壞情況下執(zhí)行 L2 干擾。

在使用緩存分區(qū)和緩存垃圾的場(chǎng)景 3 中，將創(chuàng)建三個(gè) L2 分區(qū)：

分配給測(cè)試應(yīng)用程序的 256 KB 分區(qū)

分配給 RTOS 內(nèi)核的 64 KB 分區(qū)以及方案 1 和方案 2 中使用的同一組調(diào)試工具

分配給惡意緩存垃圾程序應(yīng)用程序的 192 KB 分區(qū)。

此方案建立了優(yōu)化的最壞情況性能，其中每個(gè)測(cè)試在其自己的 L2 分區(qū)內(nèi)執(zhí)行，不受其他應(yīng)用程序（包括緩存垃圾程序）的干擾。

緩存分區(qū)結(jié)果、優(yōu)勢(shì)

圖 3 顯示了只讀測(cè)試應(yīng)用程序的結(jié)果。

圖3：緩存分區(qū)對(duì)只讀測(cè)試的影響

例如，在沒有緩存分區(qū)和緩存垃圾的情況下（方案 1，ACET），只讀測(cè)試在工作集大小為 512 KB 的情況下，每次執(zhí)行的平均時(shí)間為 105 微秒。在方案 2（沒有分區(qū)的 WCET，添加了緩存垃圾箱）中，對(duì)于相同的 512 KB 工作集，測(cè)試平均每次執(zhí)行 400 微秒，增加了 280%。添加緩存分區(qū)（方案 3，帶緩存垃圾的 WCET）時(shí)，平均執(zhí)行時(shí)間降至 117 微秒，僅比 ACET 高 11%。

這些結(jié)果證明了緩存分區(qū)對(duì)于每個(gè)周期執(zhí)行大量讀取的應(yīng)用程序的有效性。盡管由于量級(jí)差異，此處很難辨別，但當(dāng)應(yīng)用程序的工作集大小適合其使用的緩存分區(qū)（在本例中為 256 KB）時(shí)，對(duì)邊界 WCET 的影響更為明顯。由于緩存的性質(zhì)，此結(jié)果是預(yù)期的。也就是說，嵌入式實(shí)時(shí)應(yīng)用程序的工作集大小往往相對(duì)較小，因此我們預(yù)計(jì)緩存分區(qū)將使大多數(shù)應(yīng)用程序受益。

只寫測(cè)試的結(jié)果與只讀測(cè)試相似，但對(duì)于較小的工作集更明顯。對(duì)于較大的工作集，結(jié)果顯示具有和不具有緩存分區(qū)的 WCET 之間的差異相對(duì)較小。

復(fù)制測(cè)試的結(jié)果與只讀測(cè)試相似，但對(duì)于較小的工作集更明顯。對(duì)于較大的工作集，結(jié)果不那么顯著，但仍然顯示出具有緩存分區(qū)的 WCET 的顯著改進(jìn)（大約 2 倍）。

代碼執(zhí)行測(cè)試的結(jié)果與只讀測(cè)試類似，但稍微不那么引人注目。

請(qǐng)注意，在同一緩存分區(qū)中執(zhí)行的應(yīng)用程序可能會(huì)相互干擾。但是，與在具有共享緩存的不同內(nèi)核上執(zhí)行的應(yīng)用程序之間可能發(fā)生的不可預(yù)測(cè)的干擾模式相比，此類干擾通常更容易分析和綁定。在這些情況下，如果干擾不可預(yù)測(cè)，則可以將應(yīng)用程序映射到單獨(dú)的緩存分區(qū)。

基準(zhǔn)測(cè)試結(jié)果清楚地表明，緩存分區(qū)提供了一種有效的方法來綁定和控制 MCP 上共享緩存中的干擾模式。特別是，在對(duì)緩存進(jìn)行分區(qū)時(shí)，可以更嚴(yán)格地綁定和控制 WCET。這允許應(yīng)用程序開發(fā)人員設(shè)置相對(duì)緊湊但安全的執(zhí)行時(shí)間預(yù)算，從而最大限度地提高 MCP 利用率。

當(dāng)然，不同的應(yīng)用和硬件配置的結(jié)果會(huì)有所不同，并且需要額外的RTOS功能才能成功認(rèn)證基于安全關(guān)鍵型MCP的系統(tǒng)。無論如何，這些結(jié)果代表了在使用MCP托管可認(rèn)證的安全關(guān)鍵應(yīng)用程序的目標(biāo)方面的重大進(jìn)步。

審核編輯：郭婷