一種緩存沖突檢測方法、裝置及系統(tǒng)的制作方法
【專利摘要】本發(fā)明實(shí)施例公開了一種緩存沖突檢測方法、裝置及系統(tǒng)，用于全面細(xì)粒度地反映使用方之間對(duì)共享高速緩存的競爭沖突程度。本發(fā)明實(shí)施例方法包括：將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組，高速緩存組的數(shù)量為N的正整數(shù)倍；計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)；根據(jù)命中次數(shù)生成各個(gè)使用方的命中向量，命中向量為N維向量；根據(jù)命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度，命中向量相似度用于指示兩個(gè)使用方之間對(duì)共享高速緩存的競爭程度；根據(jù)命中向量相似度識(shí)別對(duì)共享高速緩存存在競爭沖突的使用方。通過實(shí)施本發(fā)明方案，能夠精確反映使用方之間對(duì)共享高速緩存的競爭沖突程度。
【專利說明】一種緩存沖突檢測方法、裝置及系統(tǒng)
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及高速緩存【技術(shù)領(lǐng)域】，尤其涉及一種緩存沖突檢測方法、裝置及系統(tǒng)。
【背景技術(shù)】
[0002] 高速緩沖存儲(chǔ)器（Cache)簡稱高速緩存，介于處理器（Processor)與主存儲(chǔ)器之 間，由于主存儲(chǔ)器的存取速度無法與處理器相匹配，因此，某些即將被用到的指令或數(shù)據(jù)就 被調(diào)入存取速度能與處理器相匹配的高速緩存中備用。而隨著多線程處理器和多核處理器 的出現(xiàn)，高速緩存開始被共享使用。因?yàn)槭褂贸潭炔煌?，所以共享高速緩存的多個(gè)使用方對(duì) 高速緩存的使用存在競爭沖突。若不緩和使用方之間的競爭沖突，則會(huì)降低系統(tǒng)整體效率。
[0003] 目前，使用線程調(diào)度的方法緩和使用方之間對(duì)共享高速緩存的競爭沖突：根據(jù)每 個(gè)使用方對(duì)共享高速緩存的訪問失效次數(shù)計(jì)算對(duì)應(yīng)的高速緩存失效率（Cache Miss Rate， CMR)，失效率越高，說明該使用方與其它使用方可能存在越嚴(yán)重的沖突，因此，系統(tǒng)可根據(jù) 失效率對(duì)使用方進(jìn)行調(diào)度，以緩和使用方之間對(duì)共享高速緩存的競爭沖突，從而提高系統(tǒng) 的整體效率。
[0004] 但是，上述技術(shù)方案中，調(diào)度依據(jù)為高速緩存失效率。計(jì)算高速緩存失效率所使用 的訪問失效次數(shù)是基于整個(gè)共享高速緩存而進(jìn)行統(tǒng)計(jì)的，而共享高速緩存中實(shí)際包括多個(gè) 高速緩存組（Cache Sets，CS)，使用方可能僅對(duì)個(gè)別高速緩存組進(jìn)行訪問，因此，根據(jù)訪問 失效次數(shù)計(jì)算的高速緩存失效率并不能全面、細(xì)粒度地反映使用方之間對(duì)共享高速緩存的 競爭沖突程度。
【發(fā)明內(nèi)容】
[0005] 本發(fā)明實(shí)施例提供了一種緩存沖突檢測方法、裝置及系統(tǒng)，用于全面細(xì)粒度地反 映使用方之間對(duì)共享高速緩存的競爭沖突程度，通過實(shí)施本發(fā)明方案，能夠精確反映使用 方之間對(duì)共享高速緩存的競爭沖突程度，并提供數(shù)值，從而提高調(diào)度的效率。
[0006] -種緩存沖突檢測方法，包括：
[0007] 將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組，所述高速緩存組的 數(shù)量為所述N的正整數(shù)倍；
[0008] 計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)；
[0009] 根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量，所述命中向量為N維向量；
[0010] 根據(jù)所述命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度，所述命中向量相似 度用于指示兩個(gè)使用方之間對(duì)所述共享高速緩存的競爭程度；
[0011] 根據(jù)所述命中向量相似度識(shí)別對(duì)所述共享高速緩存存在競爭沖突的使用方。
[0012] 一種緩存沖突檢測裝置，包括：
[0013] 劃分單元，用于將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組，所 述高速緩存組的數(shù)量為所述N的正整數(shù)倍；
[0014] 計(jì)數(shù)單元，用于計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)；
[0015] 生成單元，用于根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量，所述命中向量為N 維向量；
[0016] 計(jì)算單元，用于根據(jù)所述命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度，所 述命中向量相似度用于指示兩個(gè)使用方之間對(duì)所述共享高速緩存的競爭程度；
[0017] 識(shí)別單元，用于根據(jù)所述命中向量相似度識(shí)別對(duì)所述共享高速緩存存在競爭沖突 的使用方。
[0018] 一種緩存沖突檢測系統(tǒng)，包括：至少兩個(gè)使用方、共享高速緩存和緩存沖突檢測裝 置，
[0019] 所述至少兩個(gè)使用方，用于共享所述共享高速緩存；
[0020] 所述共享高速緩存包括多個(gè)高速緩存組；
[0021] 所述緩存沖突檢測裝置，用于檢測所述至少兩個(gè)使用方對(duì)所述共享高速緩存的競 爭沖突，所述緩存沖突檢測裝置為如上所述的緩存沖突檢測裝置。
[0022] 從以上技術(shù)方案可以看出，本發(fā)明實(shí)施例具有以下優(yōu)點(diǎn)：
[0023] 通過將共享高速緩存中的高速緩存組劃分為若干個(gè)超級(jí)組，并基于各個(gè)超級(jí)組計(jì) 算各個(gè)使用方的命中次數(shù)，從而生成命中向量，計(jì)算每兩個(gè)使用方之間的命中向量相似度， 以此為依據(jù)識(shí)別使用方之間的競爭沖突。對(duì)比基于整個(gè)共享高速緩存訪問失效次數(shù)進(jìn)行計(jì) 算的高速緩存失效率，本實(shí)施例提供的命中向量相似度具有更細(xì)的粒度，能夠全面反映使 用方之間對(duì)共享高速緩存的競爭沖突程度。
【專利附圖】
【附圖說明】
[0024] 圖1為本發(fā)明的系統(tǒng)示意圖；
[0025] 圖2為本發(fā)明第一實(shí)施例的緩存沖突檢測方法流程圖；
[0026] 圖3為本發(fā)明第二實(shí)施例的緩存沖突檢測方法流程圖；
[0027] 圖4為本發(fā)明第三實(shí)施例的緩存沖突檢測裝置結(jié)構(gòu)圖；
[0028] 圖5為本發(fā)明第四實(shí)施例的緩存沖突檢測裝置結(jié)構(gòu)圖；
[0029] 圖6為本發(fā)明第五實(shí)施例的緩存沖突檢測系統(tǒng)結(jié)構(gòu)圖。
【具體實(shí)施方式】
[0030] 下面將結(jié)合本發(fā)明中的說明書附圖，對(duì)發(fā)明中的技術(shù)方案進(jìn)行清楚、完整地描述， 顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例?；诒景l(fā)明中的 實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例，都 屬于本發(fā)明保護(hù)的范圍。
[0031] 本發(fā)明實(shí)施例提供了一種緩存沖突檢測方法，用于全面細(xì)粒度地反映使用方之間 對(duì)共享高速緩存的競爭沖突程度，通過實(shí)施本發(fā)明方案，能夠精確反映使用方之間對(duì)共享 高速緩存的競爭沖突程度，并提供數(shù)值，從而提高調(diào)度的效率。本發(fā)明實(shí)施例還提供與所述 方法相關(guān)的裝置和系統(tǒng)，以下將分別對(duì)其進(jìn)行詳細(xì)說明。
[0032] 請(qǐng)參見圖1,本發(fā)明實(shí)施例的系統(tǒng)包括至少兩個(gè)處理核101、至少兩個(gè)使用方102 和共享高速緩存103。其中，處理核101和共享高速緩存103組成的結(jié)構(gòu)實(shí)際可以為多核 或多線程處理器，處理核101中的單個(gè)處理核在一個(gè)時(shí)鐘周期內(nèi)只能處理其中一個(gè)使用方 102所提交的指令，共享高速緩存103中已存放待使用的指令或數(shù)據(jù)。
[0033] 本發(fā)明第一實(shí)施例將對(duì)一種緩存沖突檢測方法進(jìn)行詳細(xì)說明，本實(shí)施例所述的方 法基于圖1的系統(tǒng)進(jìn)行描述，具體流程請(qǐng)參見圖1，包括步驟：
[0034] 201、將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組。
[0035] 共享高速緩存由多個(gè)高速緩存組構(gòu)成，高速緩存組的數(shù)量一般較多，對(duì)單獨(dú)每一 個(gè)高速緩存組進(jìn)行命中次數(shù)或訪問失效次數(shù)的統(tǒng)計(jì)將非常耗費(fèi)資源，因此，在本發(fā)明實(shí)施 例中，需要將數(shù)量眾多的高速緩存組劃分為數(shù)量較少的超級(jí)組（Super Sets, SS)。
[0036] 假設(shè)高速緩存組的數(shù)量為S，超級(jí)組的數(shù)量為N，在本實(shí)施例中，要求高速緩存組 的數(shù)量S為N的正整數(shù)倍，即每個(gè)超級(jí)組中高速緩存組的數(shù)量均為S + N。其中，每個(gè)高速緩 存組和每個(gè)超級(jí)組均帶有標(biāo)識(shí)符，本實(shí)施例不對(duì)標(biāo)識(shí)方法進(jìn)行具體限定。
[0037] 202、計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)。
[0038] 設(shè)定預(yù)設(shè)時(shí)間的值，假設(shè)為T，使用方的數(shù)量為U，計(jì)算時(shí)間T內(nèi)各個(gè)使用方對(duì)各個(gè) 超級(jí)組的命中次數(shù)。命中次數(shù)，指示使用方對(duì)超級(jí)組進(jìn)行讀取操作成功的次數(shù)。由于超級(jí) 組的數(shù)量為N，在本步驟中，共需要計(jì)算UXN個(gè)命中次數(shù)。一個(gè)命中次數(shù)的計(jì)數(shù)指示對(duì)應(yīng)的 一個(gè)使用方對(duì)對(duì)應(yīng)的一個(gè)超級(jí)組的命中次數(shù)。
[0039] 203、根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量。
[0040] 其中，一個(gè)使用方對(duì)應(yīng)一個(gè)命中向量，命中向量中一個(gè)維度依序?qū)?yīng)一個(gè)超級(jí)組， 故執(zhí)行本步驟后，將生成U個(gè)N維命中向量。命中向量中每個(gè)維度的賦值由對(duì)應(yīng)的命中次 數(shù)所決定，該賦值可以直接填入對(duì)應(yīng)的命中次數(shù)，也可以通過其它方式對(duì)對(duì)應(yīng)的命中次數(shù) 進(jìn)行轉(zhuǎn)換得到，這里不作具體限定。
[0041] 204、根據(jù)所述命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度。
[0042] 命中向量相似度用于指示兩個(gè)使用方之間對(duì)所述共享高速緩存的競爭程度。由于 使用方及其對(duì)應(yīng)的命中向量的數(shù)量均為U，根據(jù)排列組合原理，本步驟共需計(jì)算(?個(gè)命中 向量相似度。本實(shí)施例不對(duì)命中向量相似度的算法進(jìn)行具體限定。
[0043] 205、根據(jù)所述命中向量相似度識(shí)別對(duì)所述共享高速緩存存在競爭沖突的使用方。
[0044] 根據(jù)計(jì)算得到的命中向量相似度即可分析并識(shí)別對(duì)共享高速緩存存在競爭沖突 的使用方，例如，設(shè)定一個(gè)閾值，當(dāng)命中向量相似度大于該閾值，即可認(rèn)為該命中向量相似 度相關(guān)的兩個(gè)使用方之間存在競爭沖突，系統(tǒng)可以對(duì)任意一方進(jìn)行調(diào)度，以緩和系統(tǒng)中的 競爭沖突，從而提高系統(tǒng)運(yùn)行效率。
[0045] 在本實(shí)施例中，通過將共享高速緩存中的高速緩存組劃分為若干個(gè)超級(jí)組，并基 于各個(gè)超級(jí)組計(jì)算各個(gè)使用方的命中次數(shù)，從而生成命中向量，計(jì)算每兩個(gè)使用方之間的 命中向量相似度，以此為依據(jù)識(shí)別使用方之間的競爭沖突。對(duì)比基于整個(gè)共享高速緩存的 訪問失效次數(shù)計(jì)算的高速緩存失效率，本實(shí)施例提供的命中向量相似度具有更細(xì)的粒度， 能夠全面反映使用方之間對(duì)共享高速緩存的競爭沖突程度。
[0046] 本發(fā)明第二實(shí)施例將對(duì)第一實(shí)施例所述的緩存沖突檢測方法進(jìn)行補(bǔ)充說明。本實(shí) 施例所述的方法具體流程請(qǐng)參見圖3,包括步驟：
[0047] 301、將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組。
[0048] 共享高速緩存由多個(gè)高速緩存組構(gòu)成，高速緩存組的數(shù)量一般較多，對(duì)單獨(dú)每一 個(gè)高速緩存組進(jìn)行命中次數(shù)或訪問失效次數(shù)的統(tǒng)計(jì)將非常耗費(fèi)資源，因此，在本發(fā)明實(shí)施 例中，需要將數(shù)量眾多的高速緩存組劃分為數(shù)量較少的超級(jí)組（Super Sets, SS)。
[0049] 假設(shè)高速緩存組的數(shù)量為S，超級(jí)組的數(shù)量為N，在本實(shí)施例中，要求高速緩存組 的數(shù)量S為N的正整數(shù)倍，即每個(gè)超級(jí)組中高速緩存組的數(shù)量均為S + N。其中，每個(gè)高速緩 存組和每個(gè)超級(jí)組均帶有標(biāo)識(shí)符，在本實(shí)施例中對(duì)高速緩存組和超級(jí)組依序標(biāo)識(shí)，如有高 速緩存組〇?高速緩存組（S-I)，超級(jí)組1?超級(jí)組N (或SSl?SSN)，則高速緩存組0? 商速緩存組（S + N-1)屬于超級(jí)組1，商速緩存組（S + N)?商速緩存組（2S + N-1)屬于超級(jí) 組2,依此類推。
[0050] 一個(gè)具體實(shí)例，共享高速緩存包括1024個(gè)高速緩存組，依序記為CS0000? CS1023,共需劃分為8個(gè)超級(jí)組，記為SSl?SS8。根據(jù)本步驟方法進(jìn)行劃分，劃分結(jié)果請(qǐng)參 見表1。
【權(quán)利要求】
1. 一種緩存沖突檢測方法，其特征在于，包括： 將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組，所述高速緩存組的數(shù)量 為所述N的正整數(shù)倍； 計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)； 根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量，所述命中向量為N維向量； 根據(jù)所述命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度，所述命中向量相似度用 于指示兩個(gè)使用方之間對(duì)所述共享高速緩存的競爭程度； 根據(jù)所述命中向量相似度識(shí)別對(duì)所述共享高速緩存存在競爭沖突的使用方。
2. 根據(jù)權(quán)利要求1所述的方法，其特征在于，所述命中向量的N個(gè)維度與所述N個(gè)超級(jí) 組--對(duì)應(yīng)， 所述根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量包括： 生成所述各個(gè)使用方未賦值的N維命中向量； 若命中次數(shù)小于第一閾值，則對(duì)所述命中向量中對(duì)應(yīng)的維度賦值為〇,否則賦值為1。
3. 根據(jù)權(quán)利要求2所述的方法，其特征在于，所述根據(jù)所述命中向量獲取每兩個(gè)使用 方之間的命中向量相似度包括： 將每兩個(gè)使用方的命中向量的數(shù)量積作為所述每兩個(gè)使用方的命中向量相似度。
4. 根據(jù)權(quán)利要求1至3任一項(xiàng)所述的方法，其特征在于，所述根據(jù)所述命中向量相似度 識(shí)別對(duì)所述共享高速緩存存在競爭沖突的使用方包括： 若所述命中向量相似度小于第二閾值，則確定所述命中向量相似度對(duì)應(yīng)的兩個(gè)使用方 之間不存在競爭沖突； 若所述命中向量相似度不小于第二閾值，則確定所述命中向量相似度對(duì)應(yīng)的兩個(gè)使用 方之間存在競爭沖突。
5. 根據(jù)權(quán)利要求1至3任一項(xiàng)所述的方法，其特征在于，還包括： 對(duì)存在競爭沖突的使用方進(jìn)行調(diào)度。
6. 根據(jù)權(quán)利要求1至3任一項(xiàng)所述的方法，其特征在于， 所述使用方為線程、進(jìn)程或虛擬機(jī)。
7. -種緩存沖突檢測裝置，其特征在于，包括： 劃分單元，用于將共享高速緩存中的多個(gè)高速緩存組平均劃分為N個(gè)超級(jí)組，所述高 速緩存組的數(shù)量為所述N的正整數(shù)倍； 計(jì)數(shù)單元，用于計(jì)算預(yù)設(shè)時(shí)間內(nèi)各個(gè)使用方對(duì)各個(gè)超級(jí)組的命中次數(shù)； 生成單元，用于根據(jù)所述命中次數(shù)生成各個(gè)使用方的命中向量，所述命中向量為N維 向量； 計(jì)算單元，用于根據(jù)所述命中向量計(jì)算每兩個(gè)使用方之間的命中向量相似度，所述命 中向量相似度用于指示兩個(gè)使用方之間對(duì)所述共享高速緩存的競爭程度； 識(shí)別單元，用于根據(jù)所述命中向量相似度識(shí)別對(duì)所述共享高速緩存存在競爭沖突的使 用方。
8. 根據(jù)權(quán)利要求7所述的裝置，其特征在于，所述使用方為線程、進(jìn)程或虛擬機(jī)，所述 命中向量的N個(gè)維度與所述N個(gè)超級(jí)組 對(duì)應(yīng)， 所述生成單元包括： 生成子單元，用于生成所述各個(gè)使用方未賦值的N維命中向量； 賦值子單元，用于若命中次數(shù)小于第一閾值，則對(duì)所述命中向量中對(duì)應(yīng)的維度賦值為 〇,否則賦值為1。
9. 根據(jù)權(quán)利要求8所述的裝置，其特征在于，所述計(jì)算單元包括： 點(diǎn)積子單元，用于將每兩個(gè)使用方的命中向量的數(shù)量積作為所述每兩個(gè)使用方的命中 向量相似度。
10. 根據(jù)權(quán)利要求7至9任一項(xiàng)所述的裝置，其特征在于，所述識(shí)別單元包括： 第一識(shí)別子單元，用于若所述命中向量相似度小于第二閾值，則確定所述命中向量相 似度對(duì)應(yīng)的兩個(gè)使用方之間不存在競爭沖突； 第二識(shí)別子單元，用于若所述命中向量相似度不小于第二閾值，則確定所述命中向量 相似度對(duì)應(yīng)的兩個(gè)使用方之間存在競爭沖突。
11. 根據(jù)權(quán)利要求7至9任一項(xiàng)所述的裝置，其特征在于，還包括： 調(diào)度單元，用于對(duì)存在競爭沖突的使用方進(jìn)行調(diào)度。
12. -種緩存沖突檢測系統(tǒng)，其特征在于，包括：至少兩個(gè)使用方、共享高速緩存和緩 存沖突檢測裝置， 所述至少兩個(gè)使用方，用于共享所述共享高速緩存； 所述共享高速緩存包括多個(gè)高速緩存組； 所述緩存沖突檢測裝置，用于檢測所述至少兩個(gè)使用方對(duì)所述共享高速緩存的競爭沖 突，所述緩存沖突檢測裝置為權(quán)利要求7至11任一項(xiàng)所述的緩存沖突檢測裝置。
13. 根據(jù)權(quán)利要求12所述的系統(tǒng)，其特征在于， 所述使用方為線程、進(jìn)程或虛擬機(jī)。
【文檔編號(hào)】G06F12/08GK104239228SQ201310246466
【公開日】2014年12月24日 申請(qǐng)日期:2013年6月20日 優(yōu)先權(quán)日:2013年6月20日
【發(fā)明者】隋秀峰, 任睿 申請(qǐng)人:華為技術(shù)有限公司, 中國科學(xué)院計(jì)算技術(shù)研究所