緩存分區(qū)減少了關(guān)鍵任務(wù)的最壞情況下的執(zhí)行時間，從而提高了 CPU 利用率，尤其是對于多核應(yīng)用程序。

多核處理器 （MCP） 的可認(rèn)證、安全關(guān)鍵型軟件應(yīng)用程序的開發(fā)人員面臨的最大挑戰(zhàn)之一是管理對共享資源（如緩存）的訪問。MCP 顯著增加緩存爭用，導(dǎo)致最壞情況執(zhí)行時間 （WCET） 超過平均案例執(zhí)行時間 （ACET） 100% 或更多。由于安全關(guān)鍵型開發(fā)人員必須為 WCET 制定預(yù)算，因此平均分配的任務(wù)（關(guān)鍵和非關(guān)鍵）的時間超過了所需的時間，從而導(dǎo)致 CPU 利用率顯著降低。解決此問題的一種方法是利用支持緩存分區(qū)的 RTOS，它使開發(fā)人員能夠以減輕爭用和減少 WCET 的方式綁定和控制干擾模式，從而在不影響安全關(guān)鍵性的情況下最大化可用 CPU 帶寬。

緩存爭用

在簡單的雙核處理器配置（圖 1）中，每個內(nèi)核都有自己的 CPU 和 L1 緩存。兩個內(nèi)核共享一個二級緩存。（請注意，未顯示共享內(nèi)存和可選 L3。

圖1：雙核配置，無需緩存分區(qū)

在此配置中，在核心 0 上執(zhí)行的應(yīng)用程序與在核心 1 上執(zhí)行的應(yīng)用程序競爭整個二級緩存。（請注意，同一內(nèi)核上的應(yīng)用程序也會相互競爭 L2;緩存分區(qū)也適用于這種情況。如果核心 0 上的應(yīng)用程序 A 使用的數(shù)據(jù)映射到與核心 1 上的應(yīng)用程序 B 相同的緩存行，則會發(fā)生沖突。

例如，假設(shè) A 的數(shù)據(jù)駐留在 L2 中;對該數(shù)據(jù)的任何訪問都將花費很少的處理器周期。但假設(shè) B 訪問的數(shù)據(jù)恰好映射到與 A 的數(shù)據(jù)相同的 L2 緩存行。此時，必須從 L2 中逐出 A 的數(shù)據(jù)（包括對 RAM 的潛在“寫回”），并且必須將 B 的數(shù)據(jù)從 RAM 中引入緩存。處理此碰撞所需的時間通常由 B 收取。然后，假設(shè) A 再次訪問其數(shù)據(jù)。由于該數(shù)據(jù)不再位于 L2 中（B 的數(shù)據(jù)在其位置），因此必須從 L2 中逐出 B 的數(shù)據(jù)（包括潛在的“寫回”到 RAM），并且 A 的數(shù)據(jù)必須從 RAM 中恢復(fù)到緩存中。處理此碰撞所需的時間通常由 A 收取。

大多數(shù)時候，A和B很少會遇到這樣的碰撞。在這些情況下，它們各自的執(zhí)行時間可以被視為“平均情況”（ACET）。但是，有時，它們的數(shù)據(jù)訪問會以高頻率發(fā)生沖突。在這些情況下，它們各自的執(zhí)行時間必須被視為“最壞情況”（WCET）。

在開發(fā)可認(rèn)證的安全關(guān)鍵型軟件時，必須為最壞情況的行為預(yù)算應(yīng)用程序的執(zhí)行時間。此類軟件必須有足夠的時間預(yù)算才能在每次執(zhí)行時完成其預(yù)期功能，以免導(dǎo)致不安全的故障情況。安全關(guān)鍵型 RTOS 必須強制實施時間分區(qū)，以便每個應(yīng)用程序都有固定的 CPU 時間預(yù)算來執(zhí)行。

由于多個內(nèi)核上的多個應(yīng)用程序可能會產(chǎn)生對 L2 緩存的爭用，因此 MCP 上的 WCET 通常比 ACET 高得多。由于可認(rèn)證的安全關(guān)鍵型應(yīng)用程序必須有時間預(yù)算來容納其 WCET，這種情況會導(dǎo)致大量預(yù)算但未使用的時間，從而導(dǎo)致 CPU 利用率顯著下降。

緩存分區(qū)

緩存分區(qū)通過減少 WCET 來提高 CPU 利用率，從而減少必須預(yù)算以容納 WCET 的時間量。同樣，在簡單的雙核處理器配置（圖 2）中，每個內(nèi)核都有自己的 CPU 和 L1 緩存，并且兩個內(nèi)核共享一個 L2 緩存。

圖2：具有緩存分區(qū)的雙核配置

在此配置中，RTOS 對 L2 緩存進行分區(qū)，以便每個內(nèi)核都有自己的 L2 段，這意味著內(nèi)核 0 上的應(yīng)用程序使用的數(shù)據(jù)將僅緩存在內(nèi)核 0 的 L2 分區(qū)中。同樣，核心 1 上的應(yīng)用程序使用的數(shù)據(jù)將僅緩存在核心 1 的 L2 分區(qū)中。這種分區(qū)消除了不同內(nèi)核上的應(yīng)用程序通過 L2 沖突相互干擾的可能性。如果沒有這種干擾，應(yīng)用程序 WCET 和 ACET 之間的增量通常比沒有緩存分區(qū)的情況要低得多。通過限制和控制這些干擾模式，緩存分區(qū)使應(yīng)用程序執(zhí)行時間更具確定性，并使開發(fā)人員能夠更嚴(yán)格地預(yù)算執(zhí)行時間，從而保持較高的處理器利用率。

測試環(huán)境和應(yīng)用程序

為了演示緩存分區(qū)的優(yōu)勢，DDC-I 使用 Deos（其可認(rèn)證、安全關(guān)鍵、時間和空間分區(qū)的 RTOS）來運行一套四個內(nèi)存密集型測試應(yīng)用程序，所有這些應(yīng)用程序都具有一系列數(shù)據(jù)/代碼大小、順序和隨機訪問策略以及各種工作集大小：

只讀

只寫

復(fù)制

代碼執(zhí)行

測試是在具有 32 KB L1 數(shù)據(jù)緩存、24 KB L1 指令緩存和 512 KB 統(tǒng)一 L2 緩存的 1.6 GHz 凌動處理器 （x86） 上進行的。請注意，雖然這些測試使用了單核 x86 處理器，但 Deos 的緩存分區(qū)功能同樣適用于在同一內(nèi)核上執(zhí)行的應(yīng)用程序（這些應(yīng)用程序也競爭 L2）。此外，它不依賴于 x86 處理器所特有的任何功能，并且同樣適用于其他處理器類型（如 ARM 或 PowerPC）。

測試是在有和沒有“緩存垃圾箱”應(yīng)用程序的情況下運行的，該應(yīng)用程序從L2中逐出測試應(yīng)用程序數(shù)據(jù)/代碼，并使用自己的數(shù)據(jù)/代碼“臟”L2。實際上，從測試應(yīng)用程序的角度來看，緩存垃圾程序?qū)?L2 置于最壞情況狀態(tài)。也就是說，緩存垃圾箱模擬真實場景，其中不同的應(yīng)用程序同時運行并爭用共享的 L2 緩存。

每個測試應(yīng)用程序在三種情況下執(zhí)行。在場景 1 中，在沒有緩存分區(qū)或緩存垃圾的情況下執(zhí)行，測試應(yīng)用程序?qū)⒏偁幷麄€ 512 KB 二級緩存以及 RTOS 內(nèi)核和各種調(diào)試工具。此測試建立基線平均性能，其中每個測試都以“平均”數(shù)量的 L2 爭用執(zhí)行。

在不使用緩存分區(qū)的場景 2 中，測試應(yīng)用程序與 RTOS 內(nèi)核、場景 1 中使用的同一組調(diào)試工具以及惡意緩存垃圾程序應(yīng)用程序競爭整個 512 KB 二級緩存。此測試建立基線最壞情況性能，其中每個測試在來自其他應(yīng)用程序（主要是緩存垃圾程序）的最壞情況下執(zhí)行 L2 干擾。

在使用緩存分區(qū)和緩存垃圾的場景 3 中，將創(chuàng)建三個 L2 分區(qū)：

分配給測試應(yīng)用程序的 256 KB 分區(qū)

分配給 RTOS 內(nèi)核的 64 KB 分區(qū)以及方案 1 和方案 2 中使用的同一組調(diào)試工具

分配給惡意緩存垃圾程序應(yīng)用程序的 192 KB 分區(qū)。

此方案建立了優(yōu)化的最壞情況性能，其中每個測試在其自己的 L2 分區(qū)內(nèi)執(zhí)行，不受其他應(yīng)用程序（包括緩存垃圾程序）的干擾。

緩存分區(qū)結(jié)果、優(yōu)勢

圖 3 顯示了只讀測試應(yīng)用程序的結(jié)果。

圖3：緩存分區(qū)對只讀測試的影響

例如，在沒有緩存分區(qū)和緩存垃圾的情況下（方案 1，ACET），只讀測試在工作集大小為 512 KB 的情況下，每次執(zhí)行的平均時間為 105 微秒。在方案 2（沒有分區(qū)的 WCET，添加了緩存垃圾箱）中，對于相同的 512 KB 工作集，測試平均每次執(zhí)行 400 微秒，增加了 280%。添加緩存分區(qū)（方案 3，帶緩存垃圾的 WCET）時，平均執(zhí)行時間降至 117 微秒，僅比 ACET 高 11%。

這些結(jié)果證明了緩存分區(qū)對于每個周期執(zhí)行大量讀取的應(yīng)用程序的有效性。盡管由于量級差異，此處很難辨別，但當(dāng)應(yīng)用程序的工作集大小適合其使用的緩存分區(qū)（在本例中為 256 KB）時，對邊界 WCET 的影響更為明顯。由于緩存的性質(zhì)，此結(jié)果是預(yù)期的。也就是說，嵌入式實時應(yīng)用程序的工作集大小往往相對較小，因此我們預(yù)計緩存分區(qū)將使大多數(shù)應(yīng)用程序受益。

只寫測試的結(jié)果與只讀測試相似，但對于較小的工作集更明顯。對于較大的工作集，結(jié)果顯示具有和不具有緩存分區(qū)的 WCET 之間的差異相對較小。

復(fù)制測試的結(jié)果與只讀測試相似，但對于較小的工作集更明顯。對于較大的工作集，結(jié)果不那么顯著，但仍然顯示出具有緩存分區(qū)的 WCET 的顯著改進（大約 2 倍）。

代碼執(zhí)行測試的結(jié)果與只讀測試類似，但稍微不那么引人注目。

請注意，在同一緩存分區(qū)中執(zhí)行的應(yīng)用程序可能會相互干擾。但是，與在具有共享緩存的不同內(nèi)核上執(zhí)行的應(yīng)用程序之間可能發(fā)生的不可預(yù)測的干擾模式相比，此類干擾通常更容易分析和綁定。在這些情況下，如果干擾不可預(yù)測，則可以將應(yīng)用程序映射到單獨的緩存分區(qū)。

基準(zhǔn)測試結(jié)果清楚地表明，緩存分區(qū)提供了一種有效的方法來綁定和控制 MCP 上共享緩存中的干擾模式。特別是，在對緩存進行分區(qū)時，可以更嚴(yán)格地綁定和控制 WCET。這允許應(yīng)用程序開發(fā)人員設(shè)置相對緊湊但安全的執(zhí)行時間預(yù)算，從而最大限度地提高 MCP 利用率。

當(dāng)然，不同的應(yīng)用和硬件配置的結(jié)果會有所不同，并且需要額外的RTOS功能才能成功認(rèn)證基于安全關(guān)鍵型MCP的系統(tǒng)。無論如何，這些結(jié)果代表了在使用MCP托管可認(rèn)證的安全關(guān)鍵應(yīng)用程序的目標(biāo)方面的重大進步。

審核編輯：郭婷