本發(fā)明涉及計(jì)算機(jī)
技術(shù)領(lǐng)域:
,尤其涉及一種多租戶請(qǐng)求處理方法、裝置及設(shè)備。
背景技術(shù):
:軟件即服務(wù)(SoftwareasaService,SaaS)是一種軟件交付模式。在這種交付模式中,云端集中式托管軟件及其相關(guān)的數(shù)據(jù),用戶僅需通過互聯(lián)網(wǎng),而不須通過安裝即可使用軟件。SaaS通常有兩種技術(shù)實(shí)現(xiàn)方式:“單租戶SaaS”和“多租戶SaaS”。其中,這里的租戶是指SaaS客戶,一個(gè)租戶通常對(duì)應(yīng)一個(gè)組織,例如公司、學(xué)校等。1、單租戶SaaS單租戶SaaS的架構(gòu)如圖1(a)所示,每個(gè)租戶單獨(dú)創(chuàng)建各自的軟件應(yīng)用和支撐環(huán)境。單租戶SaaS被廣泛應(yīng)用在租戶需要支持定制化的場(chǎng)景,而這種定制或者是因?yàn)榈赜?,抑或是他們需要更高的安全控制。因此,在單租戶SaaS模式中,每個(gè)租戶都有一份分別放在獨(dú)立的服務(wù)器上的數(shù)據(jù)庫和操作系統(tǒng),或者使用強(qiáng)的安全措施進(jìn)行隔離的虛擬網(wǎng)絡(luò)環(huán)境中。2、多租戶SaaS多租戶SaaS的架構(gòu)如圖1(b)所示,在多租戶環(huán)境中,應(yīng)用都是運(yùn)行在同一個(gè)或者一組服務(wù)器上,被稱為“單實(shí)例”架構(gòu)(SingleInstance)。多個(gè)租戶的數(shù)據(jù)保存在相同的位置,并對(duì)各個(gè)租戶的數(shù)據(jù)進(jìn)行分區(qū)來確保租戶之間的數(shù)據(jù)隔離。鑒于多個(gè)租戶在運(yùn)行中使用相同的應(yīng)用實(shí)例,并且所有數(shù)據(jù)都保存在一個(gè)多租戶隔離的數(shù)據(jù)庫中,這時(shí)每一個(gè)租戶只能在該應(yīng)用實(shí)例的基礎(chǔ)功能集上進(jìn)行有限的定制。目前大部分SaaS供應(yīng)商提供的是多租戶SaaS,相對(duì)單租戶SaaS,多租戶 SaaS主要有以下幾個(gè)優(yōu)勢(shì):(1)彈性管理簡(jiǎn)單,只需要對(duì)多租戶平臺(tái)增加資源就可以支持更多租戶;而單租戶模式則需要分別進(jìn)行擴(kuò)展。(2)采用一套基礎(chǔ)代碼的應(yīng)用實(shí)例可以支持所有租戶,只需維護(hù)一個(gè)軟件版本,產(chǎn)品升級(jí)非常容易,可以減少開發(fā)成本、且能夠快速定位和修復(fù)問題。(3)SaaS提供商可以對(duì)用戶的應(yīng)用實(shí)例使用情況進(jìn)行統(tǒng)一分析,進(jìn)而優(yōu)化產(chǎn)品功能。但是,由于多租戶SaaS模式的底層資源并不是顯式地分配給各個(gè)租戶,在多租戶共享同一應(yīng)用實(shí)例時(shí)可能會(huì)出現(xiàn)資源劫持現(xiàn)象,也就是由于誤操作或過載可能導(dǎo)致個(gè)別租戶侵占大量資源而影響其它租戶性能。因此需要對(duì)各個(gè)租戶進(jìn)行性能隔離,防止租戶間出現(xiàn)由于資源侵占而導(dǎo)致的性能干擾?,F(xiàn)有技術(shù)中,采用請(qǐng)求準(zhǔn)入控制算法實(shí)現(xiàn)各個(gè)租戶的性能隔離,并實(shí)現(xiàn)對(duì)多租戶的應(yīng)用請(qǐng)求進(jìn)行調(diào)度。該算法對(duì)應(yīng)的系統(tǒng)結(jié)構(gòu)如圖2所示,每個(gè)租戶對(duì)應(yīng)一個(gè)請(qǐng)求等待隊(duì)列,租戶新到達(dá)的請(qǐng)求放在該租戶的請(qǐng)求等待隊(duì)列末端。當(dāng)處理節(jié)點(diǎn)有空閑資源時(shí),處理節(jié)點(diǎn)發(fā)送提示信息給請(qǐng)求調(diào)度器,請(qǐng)求調(diào)度器接收到該指示后選擇一個(gè)租戶并將其隊(duì)列中最前端的請(qǐng)求發(fā)送給處理節(jié)點(diǎn),然后根據(jù)該請(qǐng)求的資源需求更新對(duì)應(yīng)租戶的資源配額使用率等信息。具體的,請(qǐng)求調(diào)度器確定一個(gè)單位時(shí)間窗口,例如1秒,并為各個(gè)租戶分別指定在單位時(shí)間窗口內(nèi)的資源配額,即每個(gè)租戶允許使用資源的時(shí)間。請(qǐng)求調(diào)度器可以根據(jù)租戶在當(dāng)前單位時(shí)間窗口的資源配額使用率,選擇請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶,并將該租戶的請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn),然后根據(jù)該請(qǐng)求的資源需求,即預(yù)估的處理時(shí)間,更新對(duì)應(yīng)租戶的資源配額使用率。例如,假設(shè)一個(gè)應(yīng)用實(shí)例有3個(gè)租戶,單位時(shí)間窗口為1秒,租戶的資源配額和使用情況如下表1所示。由表1可知,資源配額使用率最低的是租戶1。因此將租戶1的請(qǐng)求等待隊(duì) 列中最前端的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。假設(shè)發(fā)送給處理節(jié)點(diǎn)的請(qǐng)求的資源需求為30ms,那么將租戶1的已使用配額更新為90ms,即60ms+30ms,資源配額使用率更新為30%,即90/300。這里各租戶各個(gè)類型請(qǐng)求的資源需求可以采用離線統(tǒng)計(jì)分析或在線估計(jì)的方式獲得。表1租戶配額已使用配額資源配額使用率1300ms60ms20%2400ms160ms40%3300ms90ms30%由上可知,處理每個(gè)請(qǐng)求之前都要調(diào)用請(qǐng)求準(zhǔn)入控制算法,而多租戶SaaS模式中,每個(gè)應(yīng)用實(shí)例需要支撐很多租戶,平均每個(gè)實(shí)例要支撐2000多個(gè)租戶,這時(shí)進(jìn)行請(qǐng)求準(zhǔn)入控制的調(diào)度開銷較大,特別是對(duì)于資源需求較小的請(qǐng)求,由于請(qǐng)求準(zhǔn)入控制而消耗的調(diào)度時(shí)間會(huì)占請(qǐng)求總處理時(shí)間的顯著部分,造成請(qǐng)求調(diào)度效率較低。技術(shù)實(shí)現(xiàn)要素:本發(fā)明的目的是提供一種多租戶請(qǐng)求處理方法、裝置及設(shè)備,用以解決請(qǐng)求調(diào)度效率較低的問題。本發(fā)明的目的是通過以下技術(shù)方案實(shí)現(xiàn)的:第一方面,一種多租戶請(qǐng)求處理方法,包括:緩沖管理器在接收到一個(gè)請(qǐng)求時(shí),確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶;所述緩沖管理器若確定所述請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定所述請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中;所述緩沖管理器按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序,將所述第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組;所述緩沖管理器監(jiān)視所述第一請(qǐng)求等待隊(duì)列的資源需求之和,若確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且所述第二請(qǐng)求等待隊(duì)列非空,則將所述第二請(qǐng)求等待隊(duì)列中綁定為請(qǐng)求組后的請(qǐng)求按照到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序放入所述第一請(qǐng)求等待隊(duì)列中。結(jié)合第一方面,在第一方面的第一種可能的實(shí)現(xiàn)方式中,每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第一方面,在第一方面的第二種可能的實(shí)現(xiàn)方式中,緩沖管理器確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶,包括;所述緩沖管理器解析所述請(qǐng)求,確定所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶;所述緩沖管理器根據(jù)所述請(qǐng)求的請(qǐng)求類型確定所述請(qǐng)求的資源需求,或者根據(jù)所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶確定所述請(qǐng)求的資源需求。結(jié)合第一方面,在第一方面的第三種可能的實(shí)現(xiàn)方式中,所述緩沖管理器將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前,還包括:所述緩沖管理器確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限,所述第一門限小于所述第二門限。結(jié)合第一方面或以上任一一種可能的實(shí)現(xiàn)方式,在第一方面的第四種可能的實(shí)現(xiàn)方式中,所述緩沖管理器按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后次序,將所述第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,包括:所述緩沖管理器在將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,所述緩沖管理器確定所述第二請(qǐng)求等待隊(duì)列中除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及將除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組;若所述緩沖管理器確定所述請(qǐng)求的資源需求與所述待加入請(qǐng)求組的資源需求之和的和不大于所述綁定門限,則將所述請(qǐng)求加入所述待加入請(qǐng)求組。結(jié)合第一方面或以上任一一種可能的實(shí)現(xiàn)方式,在第一方面的第五種可能的實(shí)現(xiàn)方式中,所述緩沖管理器將所述請(qǐng)求加入所述待加入請(qǐng)求組,包括:所述緩沖管理器為除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組;或者所述緩沖管理器為所述請(qǐng)求添加第二捆綁標(biāo)識(shí),所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。第二方面,一種多租戶請(qǐng)求處理方法,包括:請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),確定目標(biāo)租戶,所述目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶。所述請(qǐng)求調(diào)度器確定目標(biāo)請(qǐng)求,所述目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求;所述請(qǐng)求調(diào)度器若確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,則將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)。結(jié)合第二方面,在第二方面的第一種可能的實(shí)現(xiàn)方式中,所述同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且所述至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第二方面,在第二方面的第二種可能的實(shí)現(xiàn)方式中,所述請(qǐng)求調(diào)度器確定目標(biāo)租戶,包括:所述請(qǐng)求調(diào)度器根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目標(biāo)租戶;所述請(qǐng)求調(diào)度器將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)之后,還包括:所述請(qǐng)求調(diào)度器將針對(duì)所述已處理請(qǐng)求記錄的處理信息更新為針對(duì)所述目標(biāo)請(qǐng)求的處理信息,并更新所述目標(biāo)租戶的資源配額使用情況。結(jié)合第二方面或以上任一一種可能的實(shí)現(xiàn)方式,在第二方面的第三種可能 的實(shí)現(xiàn)方式中,所述請(qǐng)求調(diào)度器確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,包括:所述請(qǐng)求調(diào)度器根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息,若確定所述已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第二方面或以上任一一種可能的實(shí)現(xiàn)方式,在第二方面的第四種可能的實(shí)現(xiàn)方式中,所述請(qǐng)求調(diào)度器確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,包括:所述請(qǐng)求調(diào)度器若確定所述目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第二方面或以上任一一種可能的實(shí)現(xiàn)方式,在第二方面的第五種可能的實(shí)現(xiàn)方式中,所述方法還包括:所述請(qǐng)求調(diào)度器若確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組,所述請(qǐng)求調(diào)度器選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶,并將所述當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給所述處理節(jié)點(diǎn)。第三方面,一種多租戶請(qǐng)求處理裝置,包括:第一接收單元,用于接收一個(gè)請(qǐng)求;第一處理單元,用于確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶;若確定所述請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定所述請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中;綁定單元,用于按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序,將所述 第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組;監(jiān)視單元,用于監(jiān)視所述第一請(qǐng)求等待隊(duì)列的資源需求之和;第一隊(duì)列調(diào)度單元,用于若確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且所述第二請(qǐng)求等待隊(duì)列非空,則將所述第二請(qǐng)求等待隊(duì)列中綁定為請(qǐng)求組后的請(qǐng)求按照到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序放入所述第一請(qǐng)求等待隊(duì)列中。結(jié)合第三方面,在第三方面的第一種可能的實(shí)現(xiàn)方式中,所述綁定單元綁定的每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第三方面,在第三方面的第二種可能的實(shí)現(xiàn)方式中,確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶時(shí),所述第一接收單元,具體用于;解析所述請(qǐng)求,確定所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶;根據(jù)所述請(qǐng)求的請(qǐng)求類型確定所述請(qǐng)求的資源需求,或者根據(jù)所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶確定所述請(qǐng)求的資源需求。結(jié)合第三方面,在第三方面的第三種可能的實(shí)現(xiàn)方式中,將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前,所述第一處理單元還用于:確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限,所述第一門限小于所述第二門限。結(jié)合第三方面或以上任一一種可能的實(shí)現(xiàn)方式,在第三方面的第四種可能的實(shí)現(xiàn)方式中,按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后次序,將所述第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,所述綁定單元具體用于:在將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,確定所述第二請(qǐng)求等待隊(duì)列中除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及將除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組;若確定所述請(qǐng)求的資源需求與所述待加入請(qǐng)求組的資源需求之和的和不大于所述綁定門限,則將所述請(qǐng)求加入所述待加入請(qǐng)求組。結(jié)合第三方面或以上任一一種可能的實(shí)現(xiàn)方式,在第三方面的第五種可能的實(shí)現(xiàn)方式中,將所述請(qǐng)求加入所述待加入請(qǐng)求組時(shí),所述綁定單元具體用于:為除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組;或者為所述請(qǐng)求添加第二捆綁標(biāo)識(shí),所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。第四方面,一種多租戶請(qǐng)求處理裝置,包括:第二接收單元,用于接收處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息;;第二處理單元,用于在所述第二接收單元接收到空閑資源提示信息時(shí),確定目標(biāo)租戶,所述目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶,并確定目標(biāo)請(qǐng)求,所述目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求,并確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;第二發(fā)送單元,用于在若確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),則將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)。結(jié)合第四方面,在第四方面的第一種可能的實(shí)現(xiàn)方式中,所述同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且所述至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第四方面,在第四方面的第二種可能的實(shí)現(xiàn)方式中,確定目標(biāo)租戶時(shí),所述第二接收單元,具體用于:根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目標(biāo)租戶;將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)之后,所述裝置還包括:記錄單元,用于將針對(duì)所述已處理請(qǐng)求記錄的處理信息更新為針對(duì)所述目標(biāo)請(qǐng)求的處理信息,并更新所述目標(biāo)租戶的資源配額使用情況。結(jié)合第四方面或以上任一一種可能的實(shí)現(xiàn)方式,在第四方面的第三種可能的實(shí)現(xiàn)方式中,確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),所述第二處理單元具體用于:根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息,若確定所述已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第四方面或以上任一一種可能的實(shí)現(xiàn)方式,在第四方面的第四種可能的實(shí)現(xiàn)方式中,確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),所述第二處理單元具體用于:若確定所述目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第四方面或以上任一一種可能的實(shí)現(xiàn)方式,在第四方面的第五種可能的實(shí)現(xiàn)方式中,所述第二處理單元,還用于在確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組時(shí),選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶;所述第二發(fā)送單元,還用于將所述當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給所述處理節(jié)點(diǎn)。第五方面,一種多租戶請(qǐng)求處理設(shè)備,其特征在于,包括:第一收發(fā)器,用于接收一個(gè)請(qǐng)求;第一處理器,用于確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶;以及若確定所述請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定所述請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中;以及按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序,將所述第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組;以及監(jiān)視所述第一請(qǐng)求等待隊(duì)列的資源需求之和,若確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且所述第二請(qǐng)求等待隊(duì)列非空,則將所述第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按照到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后順序放入所述第一請(qǐng)求等待隊(duì)列中。結(jié)合第五方面,在第五方面的第一種可能的實(shí)現(xiàn)方式中,所述第一處理器綁定的每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第五方面,在第五方面的第二種可能的實(shí)現(xiàn)方式中,確定所述請(qǐng)求的資源需求和所述請(qǐng)求對(duì)應(yīng)的租戶時(shí),所述第一處理器具體用于:解析所述請(qǐng)求,確定所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶;根據(jù)所述請(qǐng)求的請(qǐng)求類型確定所述請(qǐng)求的資源需求,或者根據(jù)所述請(qǐng)求的請(qǐng)求類型和所述請(qǐng)求對(duì)應(yīng)的租戶確定所述請(qǐng)求的資源需求。結(jié)合第五方面,在第五方面的第三種可能的實(shí)現(xiàn)方式中,將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前,所述第一處理器還用于:確定所述第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限,所述第一門限小于所述第二門限。結(jié)合第五方面或以上任一一種可能的實(shí)現(xiàn)方式,在第五方面的第四種可能的實(shí)現(xiàn)方式中,按照請(qǐng)求到達(dá)所述第二請(qǐng)求等待隊(duì)列的先后次序,將所述第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,所述第一處理器用于:在將所述請(qǐng)求放入所述租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,所述緩沖管理器確定所述第二請(qǐng)求等待隊(duì)列中除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及將除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組;若確定所述請(qǐng)求的資源需求與所述待加入請(qǐng)求組的資源需求之和的和不大于所述綁定門限,則將所述請(qǐng)求加入所述待加入請(qǐng)求組。結(jié)合第五方面或以上任一一種可能的實(shí)現(xiàn)方式,在第五方面的第五種可能的實(shí)現(xiàn)方式中,將所述請(qǐng)求加入所述待加入請(qǐng)求組,所述第一處理器用于:為除所述請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組;或者為所述請(qǐng)求添加第二捆綁標(biāo)識(shí),所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。第六方面,一種多租戶請(qǐng)求處理設(shè)備,包括:第二收發(fā)器,用于接收處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息;第二處理器,用于在所述第二收發(fā)器接收到空閑資源提示信息時(shí),確定目標(biāo)租戶,所述目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶;并確定目標(biāo)請(qǐng)求,所述目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求;以及確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;所述第二收發(fā)器,還用于在所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)。結(jié)合第六方面,在第六方面的第一種可能的實(shí)現(xiàn)方式中,所述同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且所述至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。結(jié)合第六方面,在第六方面的第二種可能的實(shí)現(xiàn)方式中,確定目標(biāo)租戶時(shí),所述第二處理器用于:根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目標(biāo)租戶;將所述目標(biāo)請(qǐng)求發(fā)送至所述處理節(jié)點(diǎn)之后,所述第二處理器還用于:將針對(duì)所述已處理請(qǐng)求記錄的處理信息更新為針對(duì)所述目標(biāo)請(qǐng)求的處理信息,并更新所述目標(biāo)租戶的資源配額使用情況。結(jié)合第六方面或以上任一一種可能的實(shí)現(xiàn)方式,在第六方面的第三種可能的實(shí)現(xiàn)方式中,確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,所述第二處理器用于:根據(jù)針對(duì)所述已處理請(qǐng)求記錄的處理信息,若確定所述已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第一捆綁標(biāo)識(shí)用于指示添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第六方面或以上任一一種可能的實(shí)現(xiàn)方式,在第六方面的第四種可能的實(shí)現(xiàn)方式中,確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),所述第二處理器用于:若確定所述目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,所述第二捆綁標(biāo)識(shí)用于指示添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有所述第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。結(jié)合第六方面或以上任一一種可能的實(shí)現(xiàn)方式,在第六方面的第五種可能的實(shí)現(xiàn)方式中,所述第二處理器還用于:在確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組時(shí),選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶;所述第二收發(fā)器,還用于將所述當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給所述處理節(jié)點(diǎn)。本發(fā)明實(shí)施例的有益效果為:緩沖管理器在接收到一個(gè)請(qǐng)求時(shí),確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶;緩沖管理器若確定請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中,保證了將短任務(wù)存入緩沖區(qū),且確保后續(xù)的綁定操作不會(huì)造成額外的請(qǐng)求延遲。緩沖管理器按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序,將第二請(qǐng)求等待隊(duì)列中的至 少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,即對(duì)資源需求較小的請(qǐng)求進(jìn)行綁定。緩沖管理器監(jiān)視第一請(qǐng)求等待隊(duì)列的資源需求之和,若確定第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且第二請(qǐng)求等待隊(duì)列非空,則將第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按照到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序放入第一請(qǐng)求等待隊(duì)列中。通過緩沖管理器將放入緩沖區(qū)中的請(qǐng)求進(jìn)行綁定處理,提高了請(qǐng)求處理的效率。請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),根據(jù)上次已處理請(qǐng)求確定目標(biāo)租戶和目標(biāo)請(qǐng)求,請(qǐng)求調(diào)度器若確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,則將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn),因此能夠?qū)崿F(xiàn)同一租戶的多個(gè)資源需求較小的請(qǐng)求連續(xù)處理,減少請(qǐng)求調(diào)度的信令開銷,避免了短時(shí)間內(nèi)的頻繁調(diào)度,提高了調(diào)度請(qǐng)求的效率。附圖說明圖1(a)為本發(fā)明
背景技術(shù):
中單租戶SaaS的架構(gòu)示意圖;圖1(b)為本發(fā)明
背景技術(shù):
中多租戶SaaS的架構(gòu)示意圖;圖2為本發(fā)明
背景技術(shù):
中多租戶請(qǐng)求調(diào)度的網(wǎng)絡(luò)架構(gòu)示意圖;圖3為本發(fā)明實(shí)施例中多租戶請(qǐng)求調(diào)度的網(wǎng)絡(luò)架構(gòu)示意圖;圖4為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理的概述流程圖A;圖5為本發(fā)明實(shí)施例中第二請(qǐng)求等待隊(duì)列的結(jié)構(gòu)示意圖;圖6為本發(fā)明實(shí)施例中緩沖管理器針對(duì)一個(gè)新請(qǐng)求的處理流程圖;圖7為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理的概述流程圖B;圖8為本發(fā)明實(shí)施例中緩沖管理器為請(qǐng)求添加第一捆綁標(biāo)識(shí)的示意圖;圖9為本發(fā)明實(shí)施例中緩沖管理器將第二請(qǐng)求等待隊(duì)列放入對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列的示意圖;圖10為本發(fā)明實(shí)施例中緩沖管理器為請(qǐng)求添加第二捆綁標(biāo)識(shí)的示意圖;圖11為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理裝置A的結(jié)構(gòu)示意圖;圖12為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理裝置B的結(jié)構(gòu)示意圖;圖13為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理設(shè)備A的結(jié)構(gòu)示意圖;圖14為本發(fā)明實(shí)施例中多租戶請(qǐng)求處理設(shè)備B的結(jié)構(gòu)示意圖。具體實(shí)施方式下面將結(jié)合本發(fā)明實(shí)施例中的附圖,對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚、完整地描述,顯然,所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例,并不是全部的實(shí)施例?;诒景l(fā)明中的實(shí)施例,本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例,都屬于本發(fā)明保護(hù)的范圍。參閱圖3所示,為本發(fā)明實(shí)施例的網(wǎng)絡(luò)結(jié)構(gòu)示意圖,本發(fā)明實(shí)施例的網(wǎng)絡(luò)結(jié)構(gòu)相對(duì)現(xiàn)有的網(wǎng)絡(luò)結(jié)構(gòu)增加了緩沖管理器和緩沖區(qū)兩個(gè)設(shè)備,其中,緩沖區(qū)用于存儲(chǔ)滿足預(yù)設(shè)條件的租戶請(qǐng)求,緩沖管理器用于管理位于緩沖區(qū)中的請(qǐng)求。參閱圖4所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理方法A,包括:步驟410:緩沖管理器在接收到一個(gè)請(qǐng)求時(shí),確定該請(qǐng)求的資源需求和該請(qǐng)求對(duì)應(yīng)的租戶。具體的,緩沖管理器確定該請(qǐng)求的資源需求和該請(qǐng)求對(duì)應(yīng)的租戶,包括;緩沖管理器解析該請(qǐng)求,確定該請(qǐng)求的請(qǐng)求類型和該請(qǐng)求對(duì)應(yīng)的租戶;緩沖管理器根據(jù)該請(qǐng)求的請(qǐng)求類型確定該請(qǐng)求的資源需求,或者根據(jù)該請(qǐng)求的請(qǐng)求類型和該請(qǐng)求對(duì)應(yīng)的租戶確定該請(qǐng)求的資源需求。一般情況下,需要租戶ID和請(qǐng)求類型共同確定請(qǐng)求的資源需求,因?yàn)獒槍?duì)不同租戶的相同請(qǐng)求類型的請(qǐng)求,它們的請(qǐng)求資源需求可能不同。如果對(duì)請(qǐng)求類型分配了唯一的標(biāo)識(shí),此時(shí)可以不需要租戶ID就能夠確定請(qǐng)求的資源需求。具體的,可以采用離線建?;蛘咴诰€估計(jì)的方式確定每個(gè)請(qǐng)求的資源需求。步驟420:緩沖管理器若確定該請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將該請(qǐng)求放入該租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定該請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將該請(qǐng)求放入該租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中。此外,緩沖管理器將該請(qǐng)求放入該租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前, 還需確定第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限。這樣做是為了確保后續(xù)的綁定操作不會(huì)造成額外的請(qǐng)求延遲。這里的第二請(qǐng)求等待隊(duì)列位于緩沖區(qū)中,緩沖區(qū)可以是硬盤或者其他存儲(chǔ)設(shè)備。預(yù)設(shè)閾值一般較小,是用于指示短任務(wù)的閾值。步驟430:緩沖管理器按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序,將第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組。其中,每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。具體的,緩沖管理器按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后次序,將第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,可以采用但不限于以下方法:緩沖管理器在確定該請(qǐng)求的資源需求小于預(yù)設(shè)閾值,將該請(qǐng)求放入該租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,參閱圖5所示,以Rt為例,若Rt的資源需求小于預(yù)設(shè)閾值,將Rt放入對(duì)應(yīng)租戶的第二請(qǐng)求等待隊(duì)列中。緩沖管理器確定第二請(qǐng)求等待隊(duì)列中除該請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及除該請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組。參閱圖5所示,除Rt外,最晚到第二請(qǐng)求等待隊(duì)列的請(qǐng)求為Rt-1,且Rt-1、Rt-2、Rt-3為一個(gè)請(qǐng)求組。具體的,緩沖管理器確定Rt-1所在請(qǐng)求組,解析Rt-2是否具有第一捆綁標(biāo)識(shí),若解析Rt-2具有第一捆綁標(biāo)識(shí),則再解析Rt-3,直到確定一個(gè)不具有第一捆綁標(biāo)識(shí)的請(qǐng)求Rt-n,說明Rt-1到Rt-n-1歸屬于同一請(qǐng)求組?;蛘?,解析Rt-1是否具有第二捆綁標(biāo)識(shí),若解析Rt-1具有第二捆綁標(biāo)識(shí),則再解析Rt-2,直到確定一個(gè)不具有第一捆綁標(biāo)識(shí)的請(qǐng)求Rt-n,說明Rt-1到Rt-n歸屬于同一請(qǐng)求組。進(jìn)一步地,若緩沖管理器確定該請(qǐng)求的資源需求與待加入請(qǐng)求組的資源需求之和的和不大于綁定門限,則將該請(qǐng)求加入待加入請(qǐng)求組。若緩沖管理器確定該請(qǐng)求的資源需求與待加入請(qǐng)求組的資源需求之和的和大于綁定門限,則不能將該請(qǐng)求加入待加入請(qǐng)求組。具體的,根據(jù)Rt、Rt-1、Rt-2、Rt-3分別對(duì)應(yīng)的資源需求求和,若求和結(jié)果小于或等于綁定門限,則將Rt也加入該請(qǐng)求組,若求和結(jié)果大于綁定門限,則不能將Rt加入該請(qǐng)求組中。此外,緩沖管理器將該請(qǐng)求加入待加入請(qǐng)求組,可以采用但不限于以下兩種添加捆綁標(biāo)識(shí)的方法:第一種方法:緩沖管理器為除該請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。第二種方法:緩沖管理器為該請(qǐng)求添加第二捆綁標(biāo)識(shí),第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。步驟440:緩沖管理器監(jiān)視第一請(qǐng)求等待隊(duì)列的資源需求之和,若確定第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且第二請(qǐng)求等待隊(duì)列非空,則將第二請(qǐng)求等待隊(duì)列中綁定為請(qǐng)求組后的請(qǐng)求按照到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序放入第一請(qǐng)求等待隊(duì)列中。因此,當(dāng)?shù)谝徽?qǐng)求等待隊(duì)列的資源需求之和低于第一門限時(shí),表明該租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中的請(qǐng)求較少時(shí),需要將第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按到達(dá)順序放入第一請(qǐng)求等待隊(duì)列中。這里的緩沖管理器針對(duì)每個(gè)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列進(jìn)行監(jiān)視,當(dāng)確定任一個(gè)租戶的第一請(qǐng)求等待隊(duì)列的資源需求之和較低時(shí),將對(duì)應(yīng)該租戶的第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按照到達(dá)順序放入對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列。實(shí)施例1:參閱圖6所示,為本發(fā)明實(shí)施例提供的緩沖管理器針對(duì)一個(gè)新請(qǐng)求的具體處理過程:S601:接收一個(gè)新請(qǐng)求。S602:解析新請(qǐng)求,并確定新請(qǐng)求的資源需求、新請(qǐng)求對(duì)應(yīng)租戶ID,以及該租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列的資源需求之和。S603:判斷該新請(qǐng)求是否小于預(yù)設(shè)閾值,若是執(zhí)行S604,否則,執(zhí)行S606。S604:判斷該租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列的資源需要之和是否大于等于第二門限,若是執(zhí)行S605,否則執(zhí)行S606。S605:將該新請(qǐng)求放入緩沖區(qū)中該租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中,繼續(xù)執(zhí)行S607。S606:將該新請(qǐng)求放入緩沖區(qū)中該租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中。S607:判斷第二請(qǐng)求等待隊(duì)列中是否存在除該新請(qǐng)求外的其他請(qǐng)求,若是,執(zhí)行S608,否則執(zhí)行S612。S608:確定第二請(qǐng)求等待隊(duì)列中除該新請(qǐng)求外的最晚到達(dá)的請(qǐng)求,以及該請(qǐng)求歸屬的請(qǐng)求組為待加入請(qǐng)求組。S609:計(jì)算新請(qǐng)求的資源需求與待加入請(qǐng)求組的資源需求之和的和。S610:判斷求和結(jié)果是否小于或等于綁定門限,若是,執(zhí)行S611,否則執(zhí)行S612。S611:將該新請(qǐng)求加入待加入請(qǐng)求組。S612:結(jié)束該新請(qǐng)求的處理流程。參閱圖7所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理方法,包括:步驟710:請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),確定目標(biāo)租戶。其中,目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶。步驟720:請(qǐng)求調(diào)度器確定目標(biāo)請(qǐng)求。其中,目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求。具體的,請(qǐng)求調(diào)度器確定目標(biāo)租戶,包括:請(qǐng)求調(diào)度器根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目 標(biāo)租戶。步驟730:請(qǐng)求調(diào)度器若確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,則將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)。其中,同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。請(qǐng)求調(diào)度器確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,可以采用但不限于以下兩種方法:第一種方法:請(qǐng)求調(diào)度器根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息,若確定已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組。其中,第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。第二種方法:請(qǐng)求調(diào)度器若確定目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組。其中,第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。因此,采用本發(fā)明實(shí)施例提供的方法,可以將同一請(qǐng)求組中的請(qǐng)求連續(xù)發(fā)送給處理節(jié)點(diǎn),期間不再采用現(xiàn)有的請(qǐng)求準(zhǔn)入控制算法。進(jìn)一步地,請(qǐng)求調(diào)度器若確定已處理請(qǐng)求與目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組,采用現(xiàn)有的請(qǐng)求準(zhǔn)入控制算法選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶,并將當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。此外,當(dāng)請(qǐng)求調(diào)度器將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)之后,請(qǐng)求調(diào)度器將針對(duì)已處理請(qǐng)求記錄的處理信息更新為針對(duì)目標(biāo)請(qǐng)求的處理信息,并更新目標(biāo)租戶的資源配額使用情況。實(shí)施例2為請(qǐng)求調(diào)度器針對(duì)采用第一捆綁標(biāo)識(shí)進(jìn)行捆綁的請(qǐng)求的處理過 程。其中,第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。表2參數(shù)名稱設(shè)定值第二門限5秒預(yù)設(shè)閾值5毫秒綁定門限5毫秒第一門限3秒?yún)㈤啽?所示,為各類閾值或門限的參數(shù)值。假設(shè)緩沖管理器接收到一個(gè)請(qǐng)求Rt,解析請(qǐng)求Rt,確定請(qǐng)求對(duì)應(yīng)的租戶ID為“A”,請(qǐng)求類型為“GET”,根據(jù)表3可知,請(qǐng)求類型為“GET”的請(qǐng)求的資源需求為1毫秒,小于預(yù)設(shè)閾值5毫秒,則進(jìn)一步獲取租戶A的第一請(qǐng)求等待隊(duì)列的資源需求之和,假設(shè)租戶A的第一請(qǐng)求等待隊(duì)列的資源需求之和為6秒,大于第二門限5秒,則確定將Rt放入緩沖區(qū)中租戶A的第二請(qǐng)求等待隊(duì)列中。表3租戶ID請(qǐng)求類型資源需求AGET1毫秒APOST5毫秒………緩沖管理器將Rt放入緩沖區(qū)中租戶A的第二請(qǐng)求等待隊(duì)列后,確定第二請(qǐng)求等待隊(duì)列還包括:{Rt-1,Rt-2,Rt-3,Rt-4},如圖8所示。緩沖管理器進(jìn)一步確定第二請(qǐng)求等待隊(duì)列中的除Rt外最晚到達(dá)的請(qǐng)求Rt-1,以及確定Rt-1所在請(qǐng)求組為待加入請(qǐng)求組{Rt-1,Rt-2}。具體的,緩沖管理器確定Rt-1所在請(qǐng)求組,具體方式為:解析Rt-2是否具有第一捆綁標(biāo)識(shí)(如圖8所示)。 若解析Rt-2具有第一捆綁標(biāo)識(shí),則再檢查Rt-3,直到確定一個(gè)不具有第一捆綁標(biāo)識(shí)的請(qǐng)求Rt-n,說明Rt-1到Rt-n-1歸屬于同一請(qǐng)求組。由圖8可知,n=3,Rt-1所在請(qǐng)求組包括{Rt-1,Rt-2},作為待加入請(qǐng)求組。緩沖管理器計(jì)算Rt的資源需求和待加入請(qǐng)求組的資源需要之和的和,1+2+1=4(毫秒),小于綁定門限5毫秒,則將Rt加入待加入請(qǐng)求組,并為Rt-1添加第一捆綁標(biāo)識(shí)。當(dāng)緩沖管理器監(jiān)視到租戶A的第一請(qǐng)求等待隊(duì)列的資源需求之和為2.998秒時(shí),低于第一門限,將租戶A在緩沖區(qū)中的第二請(qǐng)求等待隊(duì)列中的請(qǐng)求,{Rt,Rt-1,Rt-2,Rt-3,Rt-4},按請(qǐng)求到達(dá)順序移至租戶A的第一請(qǐng)求等待隊(duì)列,如圖9所示。請(qǐng)求調(diào)度器針對(duì)上次已處理請(qǐng)求記錄兩個(gè)變量,一個(gè)是目標(biāo)租戶ID,一個(gè)是連續(xù)執(zhí)行標(biāo)志位。其中,請(qǐng)求調(diào)度器將上次已處理請(qǐng)求對(duì)應(yīng)的租戶ID記錄為目標(biāo)租戶ID。若上次已處理請(qǐng)求攜帶第一捆綁標(biāo)識(shí),請(qǐng)求調(diào)度器將連續(xù)執(zhí)行標(biāo)識(shí)位置為True,若未攜帶第一捆綁標(biāo)識(shí)則將連續(xù)執(zhí)行標(biāo)志位置為False。請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),根據(jù)自身記錄的目標(biāo)租戶ID確定目標(biāo)租戶。假設(shè)請(qǐng)求調(diào)度器的上次已處理的請(qǐng)求為租戶A的請(qǐng)求Rt-4,則請(qǐng)求調(diào)度器記錄目標(biāo)租戶ID為A,Rt-4攜帶第一捆綁標(biāo)識(shí),則將連續(xù)執(zhí)行標(biāo)識(shí)位置為True。請(qǐng)求調(diào)度器根據(jù)目標(biāo)租戶ID,確定租戶A當(dāng)前的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求為Rt-3,即目標(biāo)請(qǐng)求為Rt-3。請(qǐng)求調(diào)度器解析連續(xù)執(zhí)行標(biāo)識(shí)位為True,表明Rt-3與Rt-4屬于同一請(qǐng)求組,需要連續(xù)處理,將Rt-3發(fā)送給處理節(jié)點(diǎn)。最后,請(qǐng)求調(diào)度器將目標(biāo)租戶ID為A,因?yàn)镽t-3沒有第一捆綁標(biāo)識(shí),將連續(xù)執(zhí)行標(biāo)識(shí)位置為False,并更新租戶A的資源配額使用情況。由圖8可知,由于Rt-2和Rt-3不屬于同一請(qǐng)求組,所以當(dāng)下一次處理節(jié)點(diǎn)有空閑資源時(shí),請(qǐng)求調(diào)度器需要調(diào)用請(qǐng)求準(zhǔn)入算法選擇第一請(qǐng)求等待隊(duì)列非空的租 戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶,并將當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。實(shí)施例3為請(qǐng)求調(diào)度器針對(duì)采用第二捆綁標(biāo)識(shí)進(jìn)行捆綁的請(qǐng)求的處理過程。其中,第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。這里仍沿用表2中的參數(shù)。參閱圖10所示,緩沖管理器將Rt放入緩沖區(qū)中租戶A的第二請(qǐng)求等待隊(duì)列后,確定第二請(qǐng)求等待隊(duì)列還包括:{Rt-1,Rt-2,Rt-3,Rt-4}。緩沖管理器進(jìn)一步確定第二請(qǐng)求等待隊(duì)列中的除Rt外最晚到達(dá)的請(qǐng)求Rt-1,以及確定Rt-1所在請(qǐng)求組為待加入請(qǐng)求組{Rt-1,Rt-2}。具體的,緩沖管理器確定Rt-1所在請(qǐng)求組,具體方式為:解析Rt-1是否具有第二捆綁標(biāo)識(shí)(如圖10所示)。若解析Rt-1具有第二捆綁標(biāo)識(shí),則再檢查Rt-2,直到確定一個(gè)不具有第一捆綁標(biāo)識(shí)的請(qǐng)求Rt-n,說明Rt-1到Rt-n歸屬于同一請(qǐng)求組。由圖10可知,n=2,Rt-1所在請(qǐng)求組包括{Rt-1,Rt-2},作為待加入請(qǐng)求組。緩沖管理器計(jì)算Rt的資源需求和待加入請(qǐng)求組的資源需要之和的和,1+2+1=4(毫秒),小于綁定門限5毫秒,則將Rt加入待加入請(qǐng)求組,并為Rt添加第二捆綁標(biāo)識(shí)。請(qǐng)求調(diào)度器針對(duì)上次已處理請(qǐng)求記錄一個(gè)變量,即目標(biāo)租戶ID。其中,請(qǐng)求調(diào)度器將上次已處理請(qǐng)求對(duì)應(yīng)的租戶ID記錄為目標(biāo)租戶ID。請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),根據(jù)自身記錄的目標(biāo)租戶ID確定目標(biāo)租戶。假設(shè)請(qǐng)求調(diào)度器的上次已處理的請(qǐng)求為租戶A的請(qǐng)求Rt-4,則請(qǐng)求調(diào)度器記錄目標(biāo)租戶ID為A。請(qǐng)求調(diào)度器根據(jù)目標(biāo)租戶ID,確定租戶A當(dāng)前的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求為Rt-3,即目標(biāo)請(qǐng)求為Rt-3。請(qǐng)求調(diào)度器解析Rt-3攜帶第二捆綁標(biāo)識(shí),表明Rt-3與Rt-4屬于同一請(qǐng)求組,需要連續(xù)處理,將Rt-3發(fā)送給處理節(jié)點(diǎn)。最后,請(qǐng)求調(diào)度器將目標(biāo)租戶ID為A,并更新租戶A的資源配額使用情況。由圖10可知,由于Rt-2和Rt-3不屬于同一請(qǐng)求組,所以當(dāng)下一次處理節(jié)點(diǎn)有空閑資源時(shí),請(qǐng)求調(diào)度器需要調(diào)用請(qǐng)求準(zhǔn)入算法選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶,并將當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。參閱圖11所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理裝置A,包括:第一接收單元1101,用于接收一個(gè)請(qǐng)求;第一處理單元1102,用于確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶;若確定請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中;綁定單元1103,用于按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序,將第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組;監(jiān)視單元1104,用于監(jiān)視第一請(qǐng)求等待隊(duì)列的資源需求之和;第一隊(duì)列調(diào)度單元1105,用于若確定第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且第二請(qǐng)求等待隊(duì)列非空,則將第二請(qǐng)求等待隊(duì)列中綁定為請(qǐng)求組后的請(qǐng)求按照到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序放入第一請(qǐng)求等待隊(duì)列中。可選的,綁定單元1103綁定的每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值??蛇x的,確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶時(shí),第一接收單元1101,具體用于;解析請(qǐng)求,確定請(qǐng)求的請(qǐng)求類型和請(qǐng)求對(duì)應(yīng)的租戶;根據(jù)請(qǐng)求的請(qǐng)求類型確定請(qǐng)求的資源需求,或者根據(jù)請(qǐng)求的請(qǐng)求類型和請(qǐng)求對(duì)應(yīng)的租戶確定請(qǐng)求的資源需求。可選的,將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前,第一處理單元1102還用于:確定第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限,第一門限小于第二門限??蛇x的,按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后次序,將第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,綁定單元1103具體用于:在將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,確定第二請(qǐng)求等待隊(duì)列中除請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及除請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組;若確定請(qǐng)求的資源需求與待加入請(qǐng)求組的資源需求之和的和不大于綁定門限,則將請(qǐng)求加入待加入請(qǐng)求組。可選的,將請(qǐng)求加入待加入請(qǐng)求組時(shí),綁定單元1103具體用于:為除請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組;或者為請(qǐng)求添加第二捆綁標(biāo)識(shí),第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。參閱圖12所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理裝置B,包括:第二接收單元1201,用于在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),確定目標(biāo)租戶,目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶;第二處理單元1202,用于在第二接收單元接收到空閑資源提示信息時(shí),確定目標(biāo)租戶,目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶,并確定目標(biāo)請(qǐng)求,目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求,并確定所述已處理請(qǐng)求與所述目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;第二發(fā)送單元1203,用于在已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),則將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)。可選的,同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值??蛇x的,確定目標(biāo)租戶時(shí),第二接收單元1201,具體用于:根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目標(biāo)租戶;將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)之后,裝置還包括:記錄單元1204,用于將針對(duì)已處理請(qǐng)求記錄的處理信息更新為針對(duì)目標(biāo)請(qǐng)求的處理信息,并更新目標(biāo)租戶的資源配額使用情況??蛇x的,確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),第二處理單元1202具體用于:根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息,若確定所述已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。可選的,確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),第二處理單元1202具體用于:若確定目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。可選的,第二處理單元1202,還用于在確定已處理請(qǐng)求與目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組時(shí),選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶;第二發(fā)送單元1203,還用于將當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。參閱圖13所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理設(shè)備A,該設(shè)備包括第一收發(fā)器1301、第一處理器1302、第一存儲(chǔ)器1303。第一收發(fā)器1301、第 一處理器1302以及第一存儲(chǔ)器1303相互連接。本發(fā)明實(shí)施例中不限定上述部件之間的具體連接介質(zhì)。本發(fā)明實(shí)施例在圖13中以第一存儲(chǔ)器1303、第一處理器1302以及第一收發(fā)器1301之間通過總線1304連接,總線在圖13中以粗線表示,其它部件之間的連接方式,僅是進(jìn)行示意性說明,并不引以為限。所述總線可以分為地址總線、數(shù)據(jù)總線、控制總線等。為便于表示,圖13僅用一條粗線表示,但并不表示僅有一根總線或一種類型的總線。本發(fā)明實(shí)施例中第一存儲(chǔ)器1303,用于存儲(chǔ)第一處理器1302執(zhí)行的程序代碼,可以是易失性存儲(chǔ)器(英文:volatilememory),例如隨機(jī)存取存儲(chǔ)器(英文:random-accessmemory,縮寫:RAM);第一存儲(chǔ)器1303也可以是非易失性存儲(chǔ)器(英文:non-volatilememory),例如只讀存儲(chǔ)器(英文:read-onlymemory,縮寫:ROM),快閃存儲(chǔ)器(英文:flashmemory),硬盤(英文:harddiskdrive,縮寫:HDD)或固態(tài)硬盤(英文:solid-statedrive,縮寫:SSD)、或者第一存儲(chǔ)器1303是能夠用于攜帶或存儲(chǔ)具有指令或數(shù)據(jù)結(jié)構(gòu)形式的期望的程序代碼并能夠由計(jì)算機(jī)存取的任何其他介質(zhì),但不限于此。第一存儲(chǔ)器1303可以是上述存儲(chǔ)器的組合。具體的,第一收發(fā)器1301,用于接收一個(gè)請(qǐng)求;第一處理器1302,用于確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶;以及若確定請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中;以及按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序,將第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組;以及監(jiān)視第一請(qǐng)求等待隊(duì)列的資源需求之和,若確定第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且第二請(qǐng)求等待隊(duì)列非空,則將第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按照到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序放入第一請(qǐng)求等待隊(duì)列中??蛇x的,第一處理器1302綁定的每個(gè)請(qǐng)求組中包括的至少一個(gè)請(qǐng)求分別 對(duì)應(yīng)的資源需求之和不大于綁定閾值??蛇x的,確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶時(shí),第一處理器1302具體用于:解析請(qǐng)求,確定請(qǐng)求的請(qǐng)求類型和請(qǐng)求對(duì)應(yīng)的租戶;根據(jù)請(qǐng)求的請(qǐng)求類型確定請(qǐng)求的資源需求,或者根據(jù)請(qǐng)求的請(qǐng)求類型和請(qǐng)求對(duì)應(yīng)的租戶確定請(qǐng)求的資源需求??蛇x的,將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之前,第一處理器1302還用于:確定第一請(qǐng)求等待隊(duì)列的資源需求之和大于等于第二門限,第一門限小于第二門限??蛇x的,按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后次序,將第二請(qǐng)求等待隊(duì)列中至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,第一處理器1302用于:在將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中之后,緩沖管理器確定第二請(qǐng)求等待隊(duì)列中除請(qǐng)求外最晚到達(dá)的請(qǐng)求,以及將除請(qǐng)求外最晚到達(dá)的請(qǐng)求歸屬的請(qǐng)求組作為待加入請(qǐng)求組;若確定請(qǐng)求的資源需求與待加入請(qǐng)求組的資源需求之和的和不大于綁定門限,則將請(qǐng)求加入待加入請(qǐng)求組??蛇x的,將請(qǐng)求加入待加入請(qǐng)求組,第一處理器1302用于:為除請(qǐng)求外最晚到達(dá)的請(qǐng)求添加第一捆綁標(biāo)識(shí),第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組;或者為請(qǐng)求添加第二捆綁標(biāo)識(shí),第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組。參閱圖14所示,本發(fā)明實(shí)施例提供一種多租戶請(qǐng)求處理設(shè)備B,該設(shè)備包括第二收發(fā)器1401、第二處理器1402、第二存儲(chǔ)器1403。第二收發(fā)器1401、第二處理器1402以及第二存儲(chǔ)器1403相互連接。本發(fā)明實(shí)施例中不限定上述部件 之間的具體連接介質(zhì)。本發(fā)明實(shí)施例在圖14中以第二存儲(chǔ)器1403、第二處理器1402以及第二收發(fā)器1401之間通過總線1404連接,總線在圖14中以粗線表示,其它部件之間的連接方式,僅是進(jìn)行示意性說明,并不引以為限。所述總線可以分為地址總線、數(shù)據(jù)總線、控制總線等。為便于表示,圖14僅用一條粗線表示,但并不表示僅有一根總線或一種類型的總線。本發(fā)明實(shí)施例中第二存儲(chǔ)器1403,用于存儲(chǔ)第二處理器1402執(zhí)行的程序代碼,可以是易失性存儲(chǔ)器(英文:volatilememory),例如隨機(jī)存取存儲(chǔ)器(英文:random-accessmemory,縮寫:RAM);第二存儲(chǔ)器1403也可以是非易失性存儲(chǔ)器(英文:non-volatilememory),例如只讀存儲(chǔ)器(英文:read-onlymemory,縮寫:ROM),快閃存儲(chǔ)器(英文:flashmemory),硬盤(英文:harddiskdrive,縮寫:HDD)或固態(tài)硬盤(英文:solid-statedrive,縮寫:SSD)、或者第二存儲(chǔ)器1403是能夠用于攜帶或存儲(chǔ)具有指令或數(shù)據(jù)結(jié)構(gòu)形式的期望的程序代碼并能夠由計(jì)算機(jī)存取的任何其他介質(zhì),但不限于此。第二存儲(chǔ)器1403可以是上述存儲(chǔ)器的組合。第二收發(fā)器1401,用于接收處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息;第二處理器1402,用于在第二收發(fā)器1401接收到空閑資源提示信息時(shí),確定目標(biāo)租戶,目標(biāo)租戶為上次已處理請(qǐng)求對(duì)應(yīng)的租戶;并確定目標(biāo)請(qǐng)求,目標(biāo)請(qǐng)求為目標(biāo)租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求;以及確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;第二收發(fā)器1401,還用于在已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)。可選的,同一請(qǐng)求組中包括至少一個(gè)請(qǐng)求、且至少一個(gè)請(qǐng)求分別對(duì)應(yīng)的資源需求之和不大于綁定閾值。可選的,確定目標(biāo)租戶時(shí),第二處理器1402用于:根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息中包括的租戶ID,確定目標(biāo)租戶;將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn)之后,第二處理器1402還用于:將針對(duì)已處理請(qǐng)求記錄的處理信息更新為針對(duì)目標(biāo)請(qǐng)求的處理信息,并更新目標(biāo)租戶的資源配額使用情況。可選的,確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,第二處理器1402用于:根據(jù)針對(duì)已處理請(qǐng)求記錄的處理信息中,若確定所述已處理請(qǐng)求添加有第一綁定標(biāo)識(shí),則確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,第一捆綁標(biāo)識(shí)用于指示添加有第一捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第一捆綁標(biāo)識(shí)的請(qǐng)求相鄰的下一請(qǐng)求歸屬于同一請(qǐng)求組。可選的,確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組時(shí),第二處理器1402用于:若確定目標(biāo)請(qǐng)求攜帶第二捆綁標(biāo)識(shí),確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組;其中,第二捆綁標(biāo)識(shí)用于指示添加有第二捆綁標(biāo)識(shí)的請(qǐng)求和與添加有第二捆綁標(biāo)識(shí)的請(qǐng)求相鄰的前一請(qǐng)求歸屬于同一請(qǐng)求組??蛇x的,第二處理器1402還用于:在確定已處理請(qǐng)求與目標(biāo)請(qǐng)求不歸屬于同一請(qǐng)求組,選擇第一請(qǐng)求等待隊(duì)列非空的租戶中資源配額使用率最低的一個(gè)租戶作為當(dāng)前待處理租戶;第二收發(fā)器1401,還用于將當(dāng)前待處理租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中最早到達(dá)的請(qǐng)求發(fā)送給處理節(jié)點(diǎn)。綜上所述,緩沖管理器在接收到一個(gè)請(qǐng)求時(shí),確定請(qǐng)求的資源需求和請(qǐng)求對(duì)應(yīng)的租戶;緩沖管理器若確定請(qǐng)求的資源需求大于或等于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第一請(qǐng)求等待隊(duì)列中,若確定請(qǐng)求的資源需求小于預(yù)設(shè)閾值,則將請(qǐng)求放入租戶對(duì)應(yīng)的第二請(qǐng)求等待隊(duì)列中,保證了將短任務(wù)存入緩沖區(qū),且確保后續(xù)的綁定操作不會(huì)造成額外的請(qǐng)求延遲。緩沖管理器按照請(qǐng)求到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序,將第二請(qǐng)求等待隊(duì)列中的至少一個(gè)請(qǐng)求綁定為一個(gè)請(qǐng)求組,即對(duì)資源需求較小的請(qǐng)求進(jìn)行綁定。緩沖管理器監(jiān)視第一請(qǐng)求 等待隊(duì)列的資源需求之和,若確定第一請(qǐng)求等待隊(duì)列的資源需求之和低于第一門限且第二請(qǐng)求等待隊(duì)列非空,則將第二請(qǐng)求等待隊(duì)列中的請(qǐng)求按照到達(dá)第二請(qǐng)求等待隊(duì)列的先后順序放入第一請(qǐng)求等待隊(duì)列中。通過緩沖管理器將放入緩沖區(qū)中的請(qǐng)求進(jìn)行綁定處理,提高了請(qǐng)求處理的效率。請(qǐng)求調(diào)度器在接收到處理節(jié)點(diǎn)發(fā)送的空閑資源提示信息時(shí),根據(jù)上次已處理請(qǐng)求確定目標(biāo)租戶和目標(biāo)請(qǐng)求,請(qǐng)求調(diào)度器若確定已處理請(qǐng)求與目標(biāo)請(qǐng)求歸屬于同一請(qǐng)求組,則將目標(biāo)請(qǐng)求發(fā)送至處理節(jié)點(diǎn),因此能夠?qū)崿F(xiàn)同一租戶的多個(gè)資源需求較小的請(qǐng)求連續(xù)處理,減少請(qǐng)求調(diào)度的信令開銷,避免了短時(shí)間內(nèi)的頻繁調(diào)度,提高了調(diào)度請(qǐng)求的效率。本領(lǐng)域內(nèi)的技術(shù)人員應(yīng)明白,本發(fā)明的實(shí)施例可提供為方法、系統(tǒng)、或計(jì)算機(jī)程序產(chǎn)品。因此,本發(fā)明可采用完全硬件實(shí)施例、完全軟件實(shí)施例、或結(jié)合軟件和硬件方面的實(shí)施例的形式。而且,本發(fā)明可采用在一個(gè)或多個(gè)其中包含有計(jì)算機(jī)可用程序代碼的計(jì)算機(jī)可用存儲(chǔ)介質(zhì)(包括但不限于磁盤存儲(chǔ)器、CD-ROM、光學(xué)存儲(chǔ)器等)上實(shí)施的計(jì)算機(jī)程序產(chǎn)品的形式。本發(fā)明是參照根據(jù)本發(fā)明實(shí)施例的方法、設(shè)備(系統(tǒng))、和計(jì)算機(jī)程序產(chǎn)品的流程圖和/或方框圖來描述的。應(yīng)理解可由計(jì)算機(jī)程序指令實(shí)現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合??商峁┻@些計(jì)算機(jī)程序指令到通用計(jì)算機(jī)、專用計(jì)算機(jī)、嵌入式處理機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個(gè)機(jī)器,使得通過計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的裝置。這些計(jì)算機(jī)程序指令也可存儲(chǔ)在能引導(dǎo)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計(jì)算機(jī)可讀存儲(chǔ)器中,使得存儲(chǔ)在該計(jì)算機(jī)可讀存儲(chǔ)器中的指令產(chǎn)生包括指令裝置的制造品,該指令裝置實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能。這些計(jì)算機(jī)程序指令也可裝載到計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備上,使 得在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行一系列操作步驟以產(chǎn)生計(jì)算機(jī)實(shí)現(xiàn)的處理,從而在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行的指令提供用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的步驟。盡管已描述了本發(fā)明的優(yōu)選實(shí)施例,但本領(lǐng)域內(nèi)的技術(shù)人員一旦得知了基本創(chuàng)造性概念,則可對(duì)這些實(shí)施例作出另外的變更和修改。所以,所附權(quán)利要求意欲解釋為包括優(yōu)選實(shí)施例以及落入本發(fā)明范圍的所有變更和修改。顯然,本領(lǐng)域的技術(shù)人員可以對(duì)本發(fā)明實(shí)施例進(jìn)行各種改動(dòng)和變型而不脫離本發(fā)明實(shí)施例的精神和范圍。這樣,倘若本發(fā)明實(shí)施例的這些修改和變型屬于本發(fā)明權(quán)利要求及其等同技術(shù)的范圍之內(nèi),則本發(fā)明也意圖包含這些改動(dòng)和變型在內(nèi)。當(dāng)前第1頁1 2 3