交互應(yīng)用在云部署中的延遲差異平衡方法
【專利摘要】本發(fā)明提出一種交互應(yīng)用在云部署中的延遲差異平衡方法，包括以下步驟：將交互性負(fù)載流插入第一隊(duì)列，將非交互性負(fù)載流插入第二隊(duì)列；分別計(jì)算交互性負(fù)載流和非交互性負(fù)載流的到達(dá)速率、占用虛擬機(jī)時(shí)間和離開速率；建立第一隊(duì)列模型和第二隊(duì)列模型；根據(jù)第一隊(duì)列模型和第二隊(duì)列模型計(jì)算第一隊(duì)列長度和第二隊(duì)列長度；計(jì)算第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間和第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間；調(diào)整第一隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資源量和第二隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資源量，以使第一隊(duì)列的整體響應(yīng)時(shí)間與所述第二隊(duì)列的整體響應(yīng)時(shí)間相同。本發(fā)明能夠使用戶體驗(yàn)更穩(wěn)定，且大大縮短了交互性負(fù)載流的響應(yīng)時(shí)間。
【專利說明】
交互應(yīng)用在云部署中的延遲差異平衡方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明設(shè)及網(wǎng)絡(luò)技術(shù)領(lǐng)域，特別設(shè)及一種交互應(yīng)用在云部署中的延遲差異平衡方 法。
【背景技術(shù)】
[0002] 隨著越來越多的服務(wù)被部署到云上，虛擬機(jī)需要處理各種不同類型的數(shù)據(jù)流，為 用戶提供有效可靠的服務(wù)。一般可W把所有數(shù)據(jù)流分為兩類:一類是非交互性的負(fù)載流，例 如數(shù)值計(jì)算和圖像處理等；另一類是交互性負(fù)載流，例如復(fù)雜游戲控制，實(shí)時(shí)白板等。非交 互性的負(fù)載流擁有軟截止時(shí)間，可W在服務(wù)器空閑時(shí)間完成即可;而交互性的負(fù)載流對(duì)實(shí) 時(shí)性要求較高，且負(fù)載流需要多次進(jìn)入虛擬機(jī)隊(duì)列，導(dǎo)致延遲增大。因此，造成用戶體驗(yàn)在 很大程度上的不穩(wěn)定，因此需要一種平衡不同請求延遲的負(fù)載流調(diào)度方法。
[0003] 已有的較為經(jīng)典的算法可W大致分為兩類。一類方法主要關(guān)注網(wǎng)絡(luò)和處理延遲， 采用最近服務(wù)器分配或生長樹的方法，縮短所有流的響應(yīng)時(shí)間。另一類是采用網(wǎng)絡(luò)服務(wù) (web service)的方法，聚焦在請求或相應(yīng)的后臺(tái)服務(wù)過程。
[0004] 然而，上述兩種方法缺乏對(duì)交互性負(fù)載流延遲敏感的特性分析，不能保證交互性 操作的性能和延遲，使得響應(yīng)時(shí)間超過用戶的等待容忍上限，造成用戶流失。換言之，上述 兩種方法都忽略了在線交互應(yīng)用的特性，沒有考慮不同數(shù)據(jù)流的不同性質(zhì)和對(duì)相應(yīng)時(shí)間的 不同要求。

【發(fā)明內(nèi)容】

[0005] 本發(fā)明旨在至少在一定程度上解決上述相關(guān)技術(shù)中的技術(shù)問題之一。
[0006] 為此，本發(fā)明的目的在于提出一種交互應(yīng)用在云部署中的延遲差異平衡方法，該 方法能夠使用戶體驗(yàn)更穩(wěn)定，且大大縮短了交互性負(fù)載流的響應(yīng)時(shí)間。
[0007] 為了實(shí)現(xiàn)上述目的，本發(fā)明的實(shí)施例提出了一種交互應(yīng)用在云部署中的延遲差異 平衡方法，包括W下步驟:S1:將數(shù)據(jù)流分為交互性負(fù)載流和非交互行負(fù)載流，并將所述交 互性負(fù)載流插入第一隊(duì)列，將所述非交互性負(fù)載流插入第二隊(duì)列；S2:計(jì)算將所述交互性負(fù) 載流插入第一隊(duì)列時(shí)的第一到達(dá)速率、第一占用虛擬機(jī)時(shí)間和第一離開速率，并計(jì)算將所 述非交互性負(fù)載流插入所述第二隊(duì)列時(shí)的第二到達(dá)速率、第二占用虛擬機(jī)時(shí)間和第二離開 速率;S3:根據(jù)所述第一隊(duì)列的延遲容忍離開速率、第一達(dá)到速率、第一離開速率建立第一 隊(duì)列模型，并根據(jù)所述第二隊(duì)列的延遲容忍離開速率、第二達(dá)到速率和第二離開速率建立 第二隊(duì)列模型；S4:分別根據(jù)所述第一隊(duì)列模型和第二隊(duì)列模型計(jì)算第一隊(duì)列長度和第二 隊(duì)列長度;S5:根據(jù)所述第一隊(duì)列長度和所述交互性負(fù)載流占用其它虛擬機(jī)的時(shí)間計(jì)算所 述第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間，并根據(jù)所述第二隊(duì)列長度計(jì)算所述第二隊(duì)列的預(yù)計(jì)整體 響應(yīng)時(shí)間；W及S6:調(diào)整所述第一隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資源量和所述第二隊(duì)列應(yīng)分配的 網(wǎng)絡(luò)服務(wù)資源量，W使所述第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間與所述第二隊(duì)列的預(yù)計(jì)整體響應(yīng) 時(shí)間相同。
[000引根據(jù)本發(fā)明實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法，通過把交互性負(fù) 載流從非交互性負(fù)載流中分離出來，新建隊(duì)列，并預(yù)估網(wǎng)絡(luò)延遲，調(diào)整兩個(gè)排隊(duì)隊(duì)列上的服 務(wù)資源分配，平衡兩種負(fù)載流響應(yīng)時(shí)間，從而使得用戶體驗(yàn)更穩(wěn)定，且大大縮短了交互性負(fù) 載流的響應(yīng)時(shí)間。
[0009] 另外，根據(jù)本發(fā)明上述實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法還可W 具有如下附加的技術(shù)特征：
[0010] 在一些示例中，所述S2進(jìn)一步包括:設(shè)定用戶的耐屯、函數(shù)為：
[0011]
[0012]所述第一到達(dá)速率和所述第二到達(dá)速率均為泊松分布：
[001引其中，ω i是不同耐屯、函數(shù)的權(quán)重值，λ，1 /β，1 / 丫分別是達(dá)到速率、服務(wù)時(shí)間和離 開率的期望值。
[0019] 在一些示例中，所述S3進(jìn)一步包括:所述第一隊(duì)列長度由η變成η+1的概率為:Pi,J = P[Nn+l = j|Nn=i]=λr，所述第二隊(duì)列長度由n變成n+l的概率為:Pi,j = p[Nn+l=j|Nn=i] =λ? ;所述第一隊(duì)列長度由n+1變成η的概率為:P j, i = P [ Nn = i I Nn+1 = _j]=目r+λτ，所述第二隊(duì) 列長度由n+1變成η的概率為:Pj,i = p[Nn= i INn+1 = j]=目1+λ?，其中，λτ和λι分別表示所述第 一到達(dá)速率和所述第二到達(dá)速率，θτ和θ?分別表示所述第一隊(duì)列的延遲容忍離開速率和第 二隊(duì)列的延遲容忍離開速率，λτ和λ?分別表示所述第一離開速率和所述第二離開速率。
[0020] 在一些示例中，所述S4進(jìn)一步包括:設(shè)Pn(t)表示在t時(shí)刻，隊(duì)列長度為η的概率，A (t)表示在t時(shí)刻之前到達(dá)的請求個(gè)數(shù)，則：
[0021]
[0022] 在t+h時(shí)刻的隊(duì)列長度為η的概率可W表示為：
[0023] Ρη' (t+h) =Ρ' (t) =λΡη-ι+(θ+μ)Ρη，ι(?)-(λ+θ+μ)Ρη(?),
[0024] 其中ο化)表示在h時(shí)間間隔內(nèi)到達(dá)或離開兩個(gè)w上任務(wù)的概率；
[00巧]Pn(t+h)的導(dǎo)數(shù)為：
[00%] Pn(t+h)=P'（t)=APn-i+(9+y)Pn+i(t)-a+0+y)Pn(t);
[0027]當(dāng) n = 0 時(shí)，
[002引 p0，（t) = (0+y)Pi(t)+AP0(t);
[0029]由此得知，
[0030]
[003。 由于P0+Pi+…=1，所W
知=λ/(目+μ)，得到所述 第一隊(duì)列的平均隊(duì)列長度為：
[0035]在一些示例中，所述S5進(jìn)一步包括：由于服務(wù)時(shí)間是指數(shù)分布，因此預(yù)估等待時(shí)間 的密度函數(shù)為：
[0045] 所述交互性數(shù)據(jù)占用其它虛擬機(jī)的時(shí)間為：
[0046]
[0047] 所述交互性數(shù)據(jù)占用其它虛擬機(jī)的時(shí)間的期望值為：
[004引
[0049]在一些示例中，所述S6進(jìn)一步包括:所述第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間為：
[0055]并設(shè)定虛擬機(jī)總資源為α，則μτ+μι = α，令所述第一隊(duì)列的整體響應(yīng)時(shí)間與所述第 二隊(duì)列的整體響應(yīng)時(shí)間相等，表示為：
[0059] 其中，τ =目r-Ar，m=目ι+α-λι;
[0060] 則分配給所述第一隊(duì)列的資源量為：
[0061]
[0062] 分配給所述第二隊(duì)列的資源量為：
[0063]
[0064] 本發(fā)明的附加方面和優(yōu)點(diǎn)將在下面的描述中部分給出，部分將從下面的描述中變 得明顯，或通過本發(fā)明的實(shí)踐了解到。
【附圖說明】
[0065] 本發(fā)明的上述和/或附加的方面和優(yōu)點(diǎn)從結(jié)合下面附圖對(duì)實(shí)施例的描述中將變得 明顯和容易理解，其中：
[0066] 圖1是根據(jù)本發(fā)明實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法的流程圖；
[0067] 圖2是本發(fā)明一個(gè)實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法的第一隊(duì)列 和第二隊(duì)列的轉(zhuǎn)移狀態(tài)示意圖；
[0068] 圖3是現(xiàn)有調(diào)度模型環(huán)境下得到的兩種負(fù)載流的響應(yīng)時(shí)間的示意圖；
[0069] 圖4是本發(fā)明一個(gè)實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法得到的兩種 負(fù)載流的響應(yīng)時(shí)間的示意圖；W及
[0070] 圖5是本發(fā)明一個(gè)實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法與現(xiàn)有調(diào)度 模型環(huán)境下得到的響應(yīng)時(shí)間的累積分布函數(shù)對(duì)比圖。
【具體實(shí)施方式】
[0071] 下面詳細(xì)描述本發(fā)明的實(shí)施例，所述實(shí)施例的示例在附圖中示出，其中自始至終 相同或類似的標(biāo)號(hào)表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附 圖描述的實(shí)施例是示例性的，僅用于解釋本發(fā)明，而不能理解為對(duì)本發(fā)明的限制。
[0072] W下結(jié)合附圖描述根據(jù)本發(fā)明實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方 法。
[0073] 圖1是根據(jù)本發(fā)明一個(gè)實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法的流程 圖。如圖1所示，根據(jù)本發(fā)明一個(gè)實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法，包括 W下步驟：
[0074] 步驟S1:將數(shù)據(jù)流分為交互性負(fù)載流和非交互行負(fù)載流，并將交互性負(fù)載流插入 第一隊(duì)列，將非交互性負(fù)載流插入第二隊(duì)列。
[0075] 步驟S2:計(jì)算將交互性負(fù)載流插入第一隊(duì)列時(shí)的第一到達(dá)速率、第一占用虛擬機(jī) 時(shí)間和第一離開速率，并計(jì)算將非交互性負(fù)載流插入第二隊(duì)列時(shí)的第二到達(dá)速率、第二占 用虛擬機(jī)時(shí)間和第二離開速率。
[0076] 具體地，步驟S2進(jìn)一步包括：
[0077] 假設(shè)用戶的耐屯、函數(shù)為若干個(gè)指數(shù)函數(shù)的加權(quán)值：
[007引
[0079] 其中，0含τ含1是在零延遲的條件下，用戶不離開系統(tǒng)的概率，ωι是不同耐屯、函數(shù) 的權(quán)重值。
[0080] 進(jìn)一步地，第一到達(dá)速率和第二到達(dá)速率均為泊松分布：
[0086] 其中，λ，1/β，1/丫分別是達(dá)到速率、服務(wù)時(shí)間和離開率的期望值。
[0087] 步驟S3:根據(jù)第一隊(duì)列的延遲容忍離開速率、第一達(dá)到速率、第一離開速率建立第 一隊(duì)列模型，并根據(jù)第二隊(duì)列的延遲容忍離開速率、第二達(dá)到速率和第二離開速率建立第 二隊(duì)列模型。
[0088] 具體地，上述步驟S3進(jìn)一步包括：
[0089] 第一隊(duì)列長度由η變成n+1的概率為:pi,j = p陽。+1 =引亂=1]=人。第二隊(duì)列長度由 η變成n+1的概率為:pi,j = p陽n+i = j |亂=：[]=入1。第一隊(duì)列長度由]1+1變成]1的概率為響,1 = P陽n=i |Nn+l = j]=目r+λ。第二隊(duì)列長度由n+1變成η的概率為:Pj,i = p陽n=i |Nn+l = j]=白1+ λ?。其中，λτ和λι分別表示第一到達(dá)速率和第二到達(dá)速率，θτ和θι分別表示第一隊(duì)列的延遲容 忍離開速率和第二隊(duì)列的延遲容忍離開速率，λτ和λ?分別表示第一離開速率和第二離開速 率。作為具體的示例，第一隊(duì)列和第二隊(duì)列的狀態(tài)轉(zhuǎn)移過程如圖2所示。
[0090] 步驟S4:分別根據(jù)第一隊(duì)列模型和第二隊(duì)列模型計(jì)算第一隊(duì)列長度和第二隊(duì)列長 度。
[0091] 具體地，設(shè)Pn(t)表示在t時(shí)刻，隊(duì)列長度為η的概率，A(t)表示在t時(shí)刻之前到達(dá)的 請求個(gè)數(shù)，則：
[0092]
[0093] 在t+h時(shí)刻的隊(duì)列長度為η的概率可W表示為：
[0094] Ρη( t+h) = Ρη-1( t)Ah+Pn(t ) [ 1_(λ+θ+μ化]+Pn+l(t )(目+]i化+0化），
[00M ]其中0化)表示在h時(shí)間間隔內(nèi)到達(dá)或離開兩個(gè)W上任務(wù)的概率；
[0096] Pn(t+h)的導(dǎo)數(shù)為：
[0097] Pn' (t+h) =P' (t) =λΡη-?+(θ+μ)Ρη，ι(?)-(λ+θ+μ)Ρη(?);
[009引 當(dāng)η = ο時(shí)，
[0099] P'〇(t) = (0+y)Pi(t)+AP〇(t);
[0100] 由此得知，
[0101]
[0102] 其中，上述公式中的λ分別代表、和λι，θ分別代表θτ和θι，μ代表μτ和μι，下同。
[0103] 由于 Ρο+Ρι+…=1，所W
令 Ρ = λ/(θ+μ)，得到第一 隊(duì)列的平均隊(duì)列長度為：
[0107] 步驟S5:根據(jù)第一隊(duì)列長度和交互性負(fù)載流占用其它虛擬機(jī)的時(shí)間計(jì)算第一隊(duì)列 的整體響應(yīng)時(shí)間，并根據(jù)第二隊(duì)列長度計(jì)算第二隊(duì)列的整體響應(yīng)時(shí)間。
[0108] 具體地，第一隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲為：
[0109]
[0110] 第二隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲為：
[0111]
[0112] 貝1J，第一隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲的期望值為：
[0113]
[0114] 第二隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲的期望值為：
[0115]
[0116] 由于交互性數(shù)據(jù)流比非交互性數(shù)據(jù)流多一部分訪問其他虛擬機(jī)的過程，時(shí)間分布 為高斯分布，所W交互性數(shù)據(jù)流占用其它虛擬機(jī)的時(shí)間為：
[0117]
[0118] 交互性數(shù)據(jù)流占用其它虛擬機(jī)的時(shí)間的期望值為：
[0119]
[0120] 步驟S6:調(diào)整第一隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資源量和第二隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資 源量，W使第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間與第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間相同。
[0121 ]具體地，第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間為：
[0122]
[0123] 第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間為：
[0124]
[0125] 設(shè)定；
[0126]
[0127]并設(shè)定虛擬機(jī)總資源為α，則μτ+μι = α，令第一隊(duì)列的整體響應(yīng)時(shí)間與所述第二隊(duì) 列的整體響應(yīng)時(shí)間相等，表示為：
[0131] 其中，τ =目r-Ar，m=目ι+α-λι;
[0132] 則分配給第一隊(duì)列的資源量為：
[0133]
[0134] 分配給第二隊(duì)列的資源量為：
[0135]
[0136] 作為具體的示例，目前的調(diào)度模型環(huán)境下，服務(wù)器中一般有兩種數(shù)據(jù)流，即交互性 負(fù)載流和非交互性負(fù)載流，兩者排在同一隊(duì)列，交互行負(fù)載流和非交互性負(fù)載流按照排隊(duì) 順序共享服務(wù)器的計(jì)算和存儲(chǔ)資源。圖3展示了目前調(diào)度模型環(huán)境下兩種負(fù)載流的響應(yīng)時(shí) 間的示意圖，圖4展示了根據(jù)本發(fā)明實(shí)施例得到的兩種負(fù)載流的響應(yīng)時(shí)間的示意圖，結(jié)合圖 3和圖4可W看出，本發(fā)明實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法顯著縮短了交 互性操作的延遲。為表一般性，在本發(fā)明的實(shí)施例中進(jìn)行了多次驗(yàn)證，針對(duì)兩種負(fù)載流的響 應(yīng)時(shí)間，繪制出不采用本發(fā)明實(shí)施例的方法和采用本發(fā)明實(shí)施例的方法得到的累計(jì)分布函 數(shù)(CDF，Qimulative Dist;r;Lbution Function)對(duì)比圖，例如圖5所示。其中，左圖為不采用 本發(fā)明實(shí)施例的方法得到的累計(jì)分布函數(shù)示意圖，右圖為采用本發(fā)明實(shí)施例的方法得到的 累計(jì)分布函數(shù)示意圖。
[0137] 綜上，根據(jù)本發(fā)明實(shí)施例的交互應(yīng)用在云部署中的延遲差異平衡方法，充分考慮 了云部署情況下不同負(fù)載流具有的不同特性，著重解決了延遲敏感的交互性負(fù)載流響應(yīng)時(shí) 間較長的問題。通過把交互性負(fù)載流從非交互性負(fù)載流中分離出來，新建隊(duì)列，調(diào)整兩個(gè)排 隊(duì)隊(duì)列上的服務(wù)資源分配，并預(yù)估網(wǎng)絡(luò)延遲，達(dá)到平衡兩種負(fù)載流響應(yīng)時(shí)間的目的，從而使 得用戶體驗(yàn)更穩(wěn)定，且大大縮短了交互性負(fù)載流的響應(yīng)時(shí)間，進(jìn)而為現(xiàn)在越來越多的基于 云的分布式交互應(yīng)用提供更好的服務(wù)質(zhì)量。
[013引在本發(fā)明的描述中，需要理解的是，術(shù)語"中屯、"、"縱向"、"橫向"、"長度"、"寬度"、 "厚度"、"上"、"下"、"前"、"后左"、"右"、"豎直"、"水平"、"頂"、"底""內(nèi)"、"外"、"順時(shí) 針"、"逆時(shí)針"、"軸向"、"徑向"、"周向"等指示的方位或位置關(guān)系為基于附圖所示的方位或 位置關(guān)系，僅是為了便于描述本發(fā)明和簡化描述，而不是指示或暗示所指的裝置或元件必 須具有特定的方位、W特定的方位構(gòu)造和操作，因此不能理解為對(duì)本發(fā)明的限制。
[0139] 此外，術(shù)語"第一"、"第二"僅用于描述目的，而不能理解為指示或暗示相對(duì)重要性 或者隱含指明所指示的技術(shù)特征的數(shù)量。由此，限定有"第一"、"第二"的特征可W明示或者 隱含地包括至少一個(gè)該特征。在本發(fā)明的描述中，"多個(gè)"的含義是至少兩個(gè)，例如兩個(gè)，Ξ 個(gè)等，除非另有明確具體的限定。
[0140] 在本發(fā)明中，除非另有明確的規(guī)定和限定，術(shù)語"安裝"、"相連"、"連接"、"固定"等 術(shù)語應(yīng)做廣義理解，例如，可W是固定連接，也可W是可拆卸連接，或成一體;可W是機(jī)械連 接，也可W是電連接;可W是直接相連，也可W通過中間媒介間接相連，可W是兩個(gè)元件內(nèi) 部的連通或兩個(gè)元件的相互作用關(guān)系，除非另有明確的限定。對(duì)于本領(lǐng)域的普通技術(shù)人員 而言，可W根據(jù)具體情況理解上述術(shù)語在本發(fā)明中的具體含義。
[0141] 在本發(fā)明中，除非另有明確的規(guī)定和限定，第一特征在第二特征"上"或"下"可W 是第一和第二特征直接接觸，或第一和第二特征通過中間媒介間接接觸。而且，第一特征在 第二特征"之上"、"上方"和"上面"可是第一特征在第二特征正上方或斜上方，或僅僅表示 第一特征水平高度高于第二特征。第一特征在第二特征"之下"、"下方"和"下面"可W是第 一特征在第二特征正下方或斜下方，或僅僅表示第一特征水平高度小于第二特征。
[0142] 在本說明書的描述中，參考術(shù)語"一個(gè)實(shí)施例"、"一些實(shí)施例"、"示例"、"具體示 例"、或"一些示例"等的描述意指結(jié)合該實(shí)施例或示例描述的具體特征、結(jié)構(gòu)、材料或者特 點(diǎn)包含于本發(fā)明的至少一個(gè)實(shí)施例或示例中。在本說明書中，對(duì)上述術(shù)語的示意性表述不 必須針對(duì)的是相同的實(shí)施例或示例。而且，描述的具體特征、結(jié)構(gòu)、材料或者特點(diǎn)可W在任 一個(gè)或多個(gè)實(shí)施例或示例中W合適的方式結(jié)合。此外，在不相互矛盾的情況下，本領(lǐng)域的技 術(shù)人員可W將本說明書中描述的不同實(shí)施例或示例W及不同實(shí)施例或示例的特征進(jìn)行結(jié) 合和組合。
[0143] 盡管上面已經(jīng)示出和描述了本發(fā)明的實(shí)施例，可W理解的是，上述實(shí)施例是示例 性的，不能理解為對(duì)本發(fā)明的限制，本領(lǐng)域的普通技術(shù)人員在本發(fā)明的范圍內(nèi)可W對(duì)上述 實(shí)施例進(jìn)行變化、修改、替換和變型。
【主權(quán)項(xiàng)】
1. 一種交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，包括以下步驟： S1:將數(shù)據(jù)流分為交互性負(fù)載流和非交互行負(fù)載流，并將所述交互性負(fù)載流插入第一 隊(duì)列，將所述非交互性負(fù)載流插入第二隊(duì)列； S2:計(jì)算將所述交互性負(fù)載流插入第一隊(duì)列時(shí)的第一到達(dá)速率、第一占用虛擬機(jī)時(shí)間 和第一離開速率，并計(jì)算將所述非交互性負(fù)載流插入所述第二隊(duì)列時(shí)的第二到達(dá)速率、第 二占用虛擬機(jī)時(shí)間和第二離開速率； S3:根據(jù)所述第一隊(duì)列的延遲容忍離開速率、第一達(dá)到速率、第一離開速率建立第一隊(duì) 列模型，并根據(jù)所述第二隊(duì)列的延遲容忍離開速率、第二達(dá)到速率和第二離開速率建立第 二隊(duì)列模型； S4:分別根據(jù)所述第一隊(duì)列模型和第二隊(duì)列模型計(jì)算第一隊(duì)列長度和第二隊(duì)列長度； S5:根據(jù)所述第一隊(duì)列長度和所述交互性負(fù)載流占用其它虛擬機(jī)的時(shí)間計(jì)算所述第一 隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間，并根據(jù)所述第二隊(duì)列長度計(jì)算所述第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí) 間；以及 S6:調(diào)整所述第一隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資源量和所述第二隊(duì)列應(yīng)分配的網(wǎng)絡(luò)服務(wù)資 源量，以使所述第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間與所述第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間相同。2. 根據(jù)權(quán)利要求1所述的交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，所述 S2進(jìn)一步包括： 設(shè)定用戶的耐心函數(shù)為：所述第一到達(dá)速率和所述第二剞伏諫率詢?yōu)椴此煞植迹悍?wù)時(shí)間為指數(shù)分布：用戶隨機(jī)離開系統(tǒng)的概率為指數(shù)分布：其中，ωι是不同耐心函數(shù)的權(quán)重值，λ，1/β，1/γ分別是達(dá)到速率、服務(wù)時(shí)間和離開率的 期望值。3. 根據(jù)權(quán)利要求2所述的交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，所述 S3進(jìn)一步包括： 所述第一隊(duì)列長度由η變成η+1的概率為:pi,j = p[Nn+i = j |1=;[]=11^，所述第二隊(duì)列長 度由η變成n+1 的概率為:pi,j = p[Nn+i = j |Νη=;?]=λ1; 所述第一隊(duì)列長度由η+1變成η的概率為:pj,i = p[Nn=i |Nn+i = j] = 0r+Ar，所述第二隊(duì) 列長度由n+1變成η的概率為:pj,i = p[Nn=i |Nn+i = 其中，\4卩心分別表示所述第一到達(dá)速率和所述第二到達(dá)速率，別表示所述第 一隊(duì)列的延遲容忍離開速率和第二隊(duì)列的延遲容忍離開速率，λ^Ρλ:分別表示所述第一離 開速率和所述第二離開速率。4. 根據(jù)權(quán)利要求3所述的交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，所述 S4進(jìn)一步包括： 設(shè)Pn(t)表示在t時(shí)刻，隊(duì)列長度為η的概率，A(t)表示在t時(shí)刻之前到達(dá)的請求個(gè)數(shù)，則： 在t+h時(shí)刻的隊(duì)列長度為η的概率可以表示為： Pn(t+h) = Pn-i(t)Ah+Pn(t) [ 1-(λ+θ+μ)]ι]+Ρη+ι(t) (9+y)h+o(h)， 其中0(h)表示在h時(shí)間間隔內(nèi)到達(dá)或離開兩個(gè)以上任務(wù)的概率； Pn(t+h)的導(dǎo)數(shù)為： P7 n(t+h) =P' (t) =λρη-ι+(θ+μ)ρη+ι(?)-(λ+θ+μ)ρη(?)； 當(dāng)η = 0時(shí)， P'oCt) = (θ+μ)Ρι(?)+λΡ〇(?)； 由此得知， ^ Ν * / η η-ι\ 1 / Η 十 i·7 y J 由于Po+Pd…=1，所以.= λ/ (θ+μ)，得到所述第一 隊(duì)列的平均隊(duì)列長度為：所述第二隊(duì)列的平均隊(duì)列長度為：5. 根據(jù)權(quán)利要求4所述的交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，所述 S5進(jìn)一步包括： 由于服務(wù)時(shí)間是指數(shù)分布，閔此預(yù)估等待時(shí)間的密度函數(shù)為：所述第一隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲為：所述第二隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲為： -丄 PVf - ^ 貝1J，所述第一隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲的期望值為： 所述第二隊(duì)列的預(yù)估網(wǎng)絡(luò)延遲的期望值為：所述交互性數(shù)據(jù)占用其它虛擬機(jī)的時(shí)間為： '......9 所述交互性數(shù)據(jù)占用其它虛擬機(jī)的時(shí)間的期望值為：6.根據(jù)權(quán)利要求5所述的交互應(yīng)用在云部署中的延遲差異平衡方法，其特征在于，所述 S6進(jìn)一步包括： 所述第一隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間為：所述第二隊(duì)列的預(yù)計(jì)整體響應(yīng)時(shí)間為： 設(shè)定：并設(shè)定虛擬機(jī)總資源為α，則yr+yi = a，令所述第一隊(duì)列的整體響應(yīng)時(shí)間與所述第二隊(duì) 列的整體響應(yīng)時(shí)間相等，表示為： 則：其中，τ - ΘΓ-λΓ ? m - θι+cx-λι; 則分配給所述第一隊(duì)列的資源量為：分配給所述第二隊(duì)列的資源量為：
【文檔編號(hào)】H04L29/08GK105872043SQ201610189231
【公開日】2016年8月17日
【申請日】2016年3月29日
【發(fā)明人】徐恪, 張宇超, 沈蒙
【申請人】清華大學(xué)