两个人的电影免费视频_国产精品久久久久久久久成人_97视频在线观看播放_久久这里只有精品777_亚洲熟女少妇二三区_4438x8成人网亚洲av_内谢国产内射夫妻免费视频_人妻精品久久久久中国字幕

任務(wù)調(diào)度方法及相關(guān)設(shè)備與流程

文檔序號(hào):40637264發(fā)布日期:2025-01-10 18:43閱讀:7來源:國(guó)知局
任務(wù)調(diào)度方法及相關(guān)設(shè)備與流程

所屬的技術(shù)人員能夠理解,本公開的各個(gè)方面可以具體實(shí)現(xiàn)為以下形式,即:完全的硬件實(shí)施方式、完全的軟件實(shí)施方式(包括固件、微代碼等),或硬件和軟件方面結(jié)合的實(shí)施方式,這里可以統(tǒng)稱為“電路”、“模塊”或“系統(tǒng)”?;谕话l(fā)明構(gòu)思,本公開實(shí)施例中還提供了一種電子設(shè)備,該電子設(shè)備包括:處理器;以及存儲(chǔ)器,用于存儲(chǔ)處理器的可執(zhí)行指令;其中,處理器配置為經(jīng)由執(zhí)行可執(zhí)行指令來執(zhí)行上述任意一項(xiàng)的任務(wù)調(diào)度方法。由于該電子設(shè)備實(shí)施例解決問題的原理與上述方法實(shí)施例相似,因此該電子設(shè)備實(shí)施例的實(shí)施可以參見上述方法實(shí)施例的實(shí)施,重復(fù)之處不再贅述。下面參照?qǐng)D6來描述根據(jù)本公開的這種實(shí)施方式的電子設(shè)備600。圖6顯示的電子設(shè)備600僅僅是一個(gè)示例,不應(yīng)對(duì)本公開實(shí)施例的功能和使用范圍帶來任何限制。如圖6所示,電子設(shè)備600以通用計(jì)算設(shè)備的形式表現(xiàn)。電子設(shè)備600的組件可以包括但不限于:上述至少一個(gè)處理單元610、上述至少一個(gè)存儲(chǔ)單元620、連接不同系統(tǒng)組件(包括存儲(chǔ)單元620和處理單元610)的總線630。其中,所述存儲(chǔ)單元存儲(chǔ)有程序代碼,所述程序代碼可以被所述處理單元610執(zhí)行,使得所述處理單元610執(zhí)行本說明書上述“示例性方法”部分中描述的根據(jù)本公開各種示例性實(shí)施方式的步驟。存儲(chǔ)單元620可以包括易失性存儲(chǔ)單元形式的可讀介質(zhì),例如隨機(jī)存取存儲(chǔ)單元(ram)6201和/或高速緩存存儲(chǔ)單元6202,還可以進(jìn)一步包括只讀存儲(chǔ)單元(rom)6203。存儲(chǔ)單元620還可以包括具有一組(至少一個(gè))程序模塊6205的程序/實(shí)用工具6204,這樣的程序模塊6205包括但不限于:操作系統(tǒng)、一個(gè)或者多個(gè)應(yīng)用程序、其它程序模塊以及程序數(shù)據(jù),這些示例中的每一個(gè)或某種組合中可能包括網(wǎng)絡(luò)環(huán)境的實(shí)現(xiàn)??偩€630可以為表示幾類總線結(jié)構(gòu)中的一種或多種,包括存儲(chǔ)單元總線或者存儲(chǔ)單元控制器、外圍總線、圖形加速端口、處理單元或者使用多種總線結(jié)構(gòu)中的任意總線結(jié)構(gòu)的局域總線。電子設(shè)備600也可以與一個(gè)或多個(gè)外部設(shè)備640(例如鍵盤、指向設(shè)備、藍(lán)牙設(shè)備等)通信,還可與一個(gè)或者多個(gè)使得用戶能與該電子設(shè)備600交互的設(shè)備通信,和/或與使得該電子設(shè)備600能與一個(gè)或多個(gè)其它計(jì)算設(shè)備進(jìn)行通信的任何設(shè)備(例如路由器、調(diào)制解調(diào)器等等)通信。這種通信可以通過輸入/輸出(i/o)接口650進(jìn)行。并且,電子設(shè)備600還可以通過網(wǎng)絡(luò)適配器660與一個(gè)或者多個(gè)網(wǎng)絡(luò)(例如局域網(wǎng)(lan),廣域網(wǎng)(wan)和/或公共網(wǎng)絡(luò),例如因特網(wǎng))通信。如圖所示,網(wǎng)絡(luò)適配器660通過總線630與電子設(shè)備600的其它模塊通信。應(yīng)當(dāng)明白,盡管圖中未示出,可以結(jié)合電子設(shè)備600使用其它硬件和/或軟件模塊,包括但不限于:微代碼、設(shè)備驅(qū)動(dòng)器、冗余處理單元、外部磁盤驅(qū)動(dòng)陣列、raid系統(tǒng)、磁帶驅(qū)動(dòng)器以及數(shù)據(jù)備份存儲(chǔ)系統(tǒng)等。通過以上的實(shí)施方式的描述,本領(lǐng)域的技術(shù)人員易于理解,這里描述的示例實(shí)施方式可以通過軟件實(shí)現(xiàn),也可以通過軟件結(jié)合必要的硬件的方式來實(shí)現(xiàn)。因此,根據(jù)本公開實(shí)施方式的技術(shù)方案可以以軟件產(chǎn)品的形式體現(xiàn)出來,該軟件產(chǎn)品可以存儲(chǔ)在一個(gè)非易失性存儲(chǔ)介質(zhì)(可以是cd-rom,u盤,移動(dòng)硬盤等)中或網(wǎng)絡(luò)上,包括若干指令以使得一臺(tái)計(jì)算設(shè)備(可以是個(gè)人計(jì)算機(jī)、服務(wù)器、終端裝置、或者網(wǎng)絡(luò)設(shè)備等)執(zhí)行根據(jù)本公開實(shí)施方式的方法。在公開的示例性實(shí)施例中,還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),該計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)可以是可讀信號(hào)介質(zhì)或者可讀存儲(chǔ)介質(zhì)。圖7示出本公開實(shí)施例中一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)示意圖,如圖7所示,該計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)700上存儲(chǔ)有能夠?qū)崿F(xiàn)本公開上述方法的程序產(chǎn)品。本公開中的計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)的更具體的例子可以包括但不限于:具有一個(gè)或多個(gè)導(dǎo)線的電連接、便攜式計(jì)算機(jī)磁盤、硬盤、隨機(jī)訪問存儲(chǔ)器(ram)、只讀存儲(chǔ)器(rom)、可擦式可編程只讀存儲(chǔ)器(eprom或閃存)、光纖、便攜式緊湊磁盤只讀存儲(chǔ)器(cd-rom)、光存儲(chǔ)器件、磁存儲(chǔ)器件、或者上述的任意合適的組合。在本公開中,計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)可以包括在基帶中或者作為載波一部分傳播的數(shù)據(jù)信號(hào),其中承載了可讀程序代碼。這種傳播的數(shù)據(jù)信號(hào)可以采用多種形式,包括但不限于電磁信號(hào)、光信號(hào)或上述的任意合適的組合??勺x信號(hào)介質(zhì)還可以是可讀存儲(chǔ)介質(zhì)以外的任何可讀介質(zhì),該可讀介質(zhì)可以發(fā)送、傳播或者傳輸用于由指令執(zhí)行系統(tǒng)、裝置或者器件使用或者與其結(jié)合使用的程序??蛇x地,計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)上包含的程序代碼可以用任何適當(dāng)?shù)慕橘|(zhì)傳輸,包括但不限于無線、有線、光纜、rf等等,或者上述的任意合適的組合。在具體實(shí)施時(shí),可以以一種或多種程序設(shè)計(jì)語言的任意組合來編寫用于執(zhí)行本公開操作的程序代碼,所述程序設(shè)計(jì)語言包括面向?qū)ο蟮某绦蛟O(shè)計(jì)語言—諸如java、c++等,還包括常規(guī)的過程式程序設(shè)計(jì)語言—諸如“c”語言或類似的程序設(shè)計(jì)語言。程序代碼可以完全地在用戶計(jì)算設(shè)備上執(zhí)行、部分地在用戶設(shè)備上執(zhí)行、作為一個(gè)獨(dú)立的軟件包執(zhí)行、部分在用戶計(jì)算設(shè)備上部分在遠(yuǎn)程計(jì)算設(shè)備上執(zhí)行、或者完全在遠(yuǎn)程計(jì)算設(shè)備或服務(wù)器上執(zhí)行。在涉及遠(yuǎn)程計(jì)算設(shè)備的情形中,遠(yuǎn)程計(jì)算設(shè)備可以通過任意種類的網(wǎng)絡(luò),包括局域網(wǎng)(lan)或廣域網(wǎng)(wan),連接到用戶計(jì)算設(shè)備,或者,可以連接到外部計(jì)算設(shè)備(例如利用因特網(wǎng)服務(wù)提供商來通過因特網(wǎng)連接)?;谕话l(fā)明構(gòu)思,本公開實(shí)施例中還提供了一種計(jì)算機(jī)程序產(chǎn)品,包括計(jì)算機(jī)程序產(chǎn)品,包括:計(jì)算機(jī)程序或指令,所述計(jì)算機(jī)程序或指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述方法實(shí)施例中任意一項(xiàng)的任務(wù)調(diào)度方法。由于該計(jì)算機(jī)程序產(chǎn)品實(shí)施例解決問題的原理與上述方法實(shí)施例相似,因此該計(jì)算機(jī)程序產(chǎn)品實(shí)施例的實(shí)施可以參見上述方法實(shí)施例的實(shí)施,重復(fù)之處不再贅述。應(yīng)當(dāng)注意,盡管在上文詳細(xì)描述中提及了用于動(dòng)作執(zhí)行的設(shè)備的若干模塊或者單元,但是這種劃分并非強(qiáng)制性的。實(shí)際上,根據(jù)本公開的實(shí)施方式,上文描述的兩個(gè)或更多模塊或者單元的特征和功能可以在一個(gè)模塊或者單元中具體化。反之,上文描述的一個(gè)模塊或者單元的特征和功能可以進(jìn)一步劃分為由多個(gè)模塊或者單元來具體化。此外,盡管在附圖中以特定順序描述了本公開中方法的各個(gè)步驟,但是,這并非要求或者暗示必須按照該特定順序來執(zhí)行這些步驟,或是必須執(zhí)行全部所示的步驟才能實(shí)現(xiàn)期望的結(jié)果。附加的或備選的,可以省略某些步驟,將多個(gè)步驟合并為一個(gè)步驟執(zhí)行,以及/或者將一個(gè)步驟分解為多個(gè)步驟執(zhí)行等。通過以上實(shí)施方式的描述,本領(lǐng)域的技術(shù)人員易于理解,這里描述的示例實(shí)施方式可以通過軟件實(shí)現(xiàn),也可以通過軟件結(jié)合必要的硬件的方式來實(shí)現(xiàn)。因此,根據(jù)本公開實(shí)施方式的技術(shù)方案可以以軟件產(chǎn)品的形式體現(xiàn)出來,該軟件產(chǎn)品可以存儲(chǔ)在一個(gè)非易失性存儲(chǔ)介質(zhì)(可以是cd-rom,u盤,移動(dòng)硬盤等)中或網(wǎng)絡(luò)上,包括若干指令以使得一臺(tái)計(jì)算設(shè)備(可以是個(gè)人計(jì)算機(jī)、服務(wù)器、移動(dòng)終端、或者網(wǎng)絡(luò)設(shè)備等)執(zhí)行根據(jù)本公開實(shí)施方式的方法。本領(lǐng)域技術(shù)人員在考慮說明書及實(shí)踐這里公開的發(fā)明后,將容易想到本公開的其它實(shí)施方案。本公開旨在涵蓋本公開的任何變型、用途或者適應(yīng)性變化,這些變型、用途或者適應(yīng)性變化遵循本公開的一般性原理并包括本公開未公開的本中的公知常識(shí)或慣用技術(shù)手段。說明書和實(shí)施例僅被視為示例性的,本公開的真正范圍和精神由所附的權(quán)利要求指出。


背景技術(shù):

1、隨著人工智能(ai)技術(shù),特別是大模型的迅猛發(fā)展,對(duì)計(jì)算資源的需求日益增加。然而,傳統(tǒng)的集中式云計(jì)算模式由于遠(yuǎn)離數(shù)據(jù)源,導(dǎo)致通信鏈路長(zhǎng)、數(shù)據(jù)傳輸量大、服務(wù)請(qǐng)求集中,從而引發(fā)響應(yīng)時(shí)間延遲、帶寬壓力增大和網(wǎng)絡(luò)擁塞等問題,最終影響服務(wù)質(zhì)量。為解決這一問題,分布式云作為云計(jì)算基礎(chǔ)設(shè)施的演進(jìn)方案,通過中心云與邊緣云的協(xié)作,將云資源下沉至網(wǎng)絡(luò)邊緣,緩解了集中式云計(jì)算帶來的骨干網(wǎng)絡(luò)阻塞,并有效滿足了ai大模型推理業(yè)務(wù)對(duì)實(shí)時(shí)性的高要求。

2、在分布式云環(huán)境中,如何高效地進(jìn)行任務(wù)調(diào)度(卸載),是一個(gè)亟待解決的問題。

3、需要說明的是,在上述背景技術(shù)部分公開的信息僅用于加強(qiáng)對(duì)本公開的背景的理解,因此可以包括不構(gòu)成對(duì)本領(lǐng)域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。


技術(shù)實(shí)現(xiàn)思路

1、本公開提供一種任務(wù)調(diào)度方法及相關(guān)設(shè)備,至少在一定程度上提高了系統(tǒng)的響應(yīng)速度,提升了資源的利用率、減少了網(wǎng)絡(luò)負(fù)載,從而提升ai大模型推理業(yè)務(wù)的整體性能和服務(wù)質(zhì)量。

2、本公開的其他特性和優(yōu)點(diǎn)將通過下面的詳細(xì)描述變得顯然,或部分地通過本公開的實(shí)踐而習(xí)得。

3、根據(jù)本公開的一個(gè)方面,提供了一種任務(wù)調(diào)度方法,包括:獲取邊緣節(jié)點(diǎn)的資源量和待調(diào)度的z個(gè)任務(wù),z為正整數(shù);根據(jù)所述邊緣節(jié)點(diǎn)的資源量,確定分配關(guān)系,所述分配關(guān)系用于指示所述z個(gè)任務(wù)預(yù)在所述邊緣節(jié)點(diǎn)和中心節(jié)點(diǎn)上的分配情況;基于遺傳算法計(jì)算得到初代種群,所述初代種群包括m條初始編碼,每個(gè)初始編碼包括z個(gè)權(quán)重,所述z個(gè)權(quán)重與所述z個(gè)任務(wù)一一對(duì)應(yīng),m為正整數(shù);基于目標(biāo)適應(yīng)度函數(shù)和所述分配關(guān)系對(duì)所述初代種群進(jìn)行種群迭代,得到目標(biāo)編碼;根據(jù)所述目標(biāo)編碼和所述邊緣節(jié)點(diǎn)的資源量對(duì)所述z個(gè)任務(wù)進(jìn)行調(diào)度。

4、在一些實(shí)施例中,在所述獲取邊緣節(jié)點(diǎn)的資源量和待調(diào)度的z個(gè)任務(wù)之前,所述方法還包括:獲取各個(gè)待調(diào)度任務(wù)的性能需求;若所述待調(diào)度任務(wù)的性能需求大于性能需求閾值,則將所述待調(diào)度任務(wù)分配到所述中心節(jié)點(diǎn);其中,所述待調(diào)度的z個(gè)任務(wù)的性能需求均小于或等于所述性能需求閾值。

5、在一些實(shí)施例中,根據(jù)所述邊緣節(jié)點(diǎn)的資源量,確定分配關(guān)系,包括:將所述待調(diào)度的z個(gè)任務(wù)中的前p個(gè)任務(wù)預(yù)調(diào)度到所述邊緣節(jié)點(diǎn),p為小于z的整數(shù);獲取p個(gè)任務(wù)預(yù)調(diào)度到所述邊緣節(jié)點(diǎn)后所述邊緣節(jié)點(diǎn)的剩余資源量;依次將z-p個(gè)任務(wù)中的任務(wù)預(yù)調(diào)度到所述邊緣節(jié)點(diǎn),直至所述邊緣節(jié)點(diǎn)的剩余資源量不能滿足待預(yù)調(diào)度任務(wù)的資源需求,并將所述邊緣節(jié)點(diǎn)不能滿足資源需求的任務(wù)預(yù)調(diào)度到所述中心節(jié)點(diǎn);其中,預(yù)調(diào)度到所述邊緣節(jié)點(diǎn)上的任務(wù)的資源分配原則為最大-最小公平分配原則。

6、在一些實(shí)施例中,所述基于目標(biāo)適應(yīng)度函數(shù)和所述分配關(guān)系對(duì)所述初代種群進(jìn)行種群迭代,得到目標(biāo)編碼,包括:基于目標(biāo)適應(yīng)度函數(shù)和所述分配關(guān)系將每次迭代種群中的迭代編碼的目標(biāo)適應(yīng)度函數(shù)值按照從小到大的順序排序;選擇排序位于前h的迭代編碼進(jìn)入下一代種群迭代,其余迭代編碼進(jìn)行交叉和/或變異操作,并對(duì)交叉和/或變異操作后的迭代編碼進(jìn)行歸一化處理,生成新一代種群進(jìn)行種群迭代;在迭代結(jié)果滿足預(yù)設(shè)條件的情況下,得到目標(biāo)編碼。

7、在一些實(shí)施例中,所述預(yù)設(shè)條件包括:種群迭代次數(shù)等于預(yù)設(shè)次數(shù);或,所述目標(biāo)適應(yīng)度函數(shù)的值達(dá)到最小。

8、在一些實(shí)施例中,根據(jù)所述目標(biāo)編碼和所述邊緣節(jié)點(diǎn)的資源量對(duì)所述z個(gè)任務(wù)進(jìn)行調(diào)度,包括:按照所述目標(biāo)編碼中權(quán)重的大小對(duì)所述z個(gè)任務(wù)進(jìn)行排序;將排序后的z個(gè)任務(wù)中的前j個(gè)任務(wù)調(diào)度到所述邊緣節(jié)點(diǎn),j為小于z的整數(shù);在j個(gè)任務(wù)調(diào)度到所述邊緣節(jié)點(diǎn)后,獲取所述邊緣節(jié)點(diǎn)的剩余資源量;依次將z-j個(gè)任務(wù)中的任務(wù)調(diào)度到所述邊緣節(jié)點(diǎn),直至所述邊緣節(jié)點(diǎn)的剩余資源量不能滿足待調(diào)度任務(wù)的資源需求,并將所述邊緣節(jié)點(diǎn)不能滿足資源需求的任務(wù)調(diào)度到所述中心節(jié)點(diǎn);其中,調(diào)度到所述邊緣節(jié)點(diǎn)上的任務(wù)的資源分配原則為最大-最小公平分配原則。

9、在一些實(shí)施例中,所述目標(biāo)適應(yīng)度函數(shù)通過以下方式構(gòu)造得到:基于所述邊緣節(jié)點(diǎn)的gpu卡數(shù)量、所述邊緣節(jié)點(diǎn)的單卡算力、所述邊緣節(jié)點(diǎn)的多卡并行效率、任務(wù)的算力需求和任務(wù)調(diào)度決策,構(gòu)造邊緣節(jié)點(diǎn)負(fù)載均衡函數(shù);基于各個(gè)任務(wù)的任務(wù)排隊(duì)時(shí)延、任務(wù)執(zhí)行時(shí)延、任務(wù)傳輸時(shí)延以及用戶可接受的最大時(shí)延,構(gòu)造時(shí)延函數(shù);基于所述邊緣節(jié)點(diǎn)負(fù)載均衡函數(shù)和/或所述時(shí)延函數(shù),確定目標(biāo)適應(yīng)度函數(shù)。

10、在一些實(shí)施例中,所述目標(biāo)適應(yīng)度函數(shù)的約束條件如下:所述任務(wù)排隊(duì)時(shí)延、所述任務(wù)執(zhí)行時(shí)延和所述任務(wù)傳輸時(shí)延之和小于所述用戶可接受的最大時(shí)延;調(diào)度到所述邊緣節(jié)點(diǎn)上的任務(wù)的性能需求小于或等于所述邊緣節(jié)點(diǎn)部署模型支持的推理精度;調(diào)度到所述中心節(jié)點(diǎn)上的任務(wù)的性能需求小于或等于所述中心節(jié)點(diǎn)部署模型支持的推理精度;同一時(shí)間段調(diào)度到所述邊緣節(jié)點(diǎn)上的全部任務(wù)的算力需求總和小于或等于所述邊緣節(jié)點(diǎn)的資源量。

11、根據(jù)本公開的另一個(gè)方面,還提供了一種任務(wù)調(diào)度裝置,包括:獲取模塊,用于獲取邊緣節(jié)點(diǎn)的資源量和待調(diào)度的z個(gè)任務(wù),z為正整數(shù);確定模塊,用于根據(jù)所述邊緣節(jié)點(diǎn)的資源量,確定分配關(guān)系,所述分配關(guān)系用于指示所述z個(gè)任務(wù)預(yù)在所述邊緣節(jié)點(diǎn)和中心節(jié)點(diǎn)上的分配情況;計(jì)算模塊,用于基于遺傳算法計(jì)算得到初代種群,所述初代種群包括m條初始編碼,每個(gè)初始編碼包括z個(gè)權(quán)重,所述z個(gè)權(quán)重與所述z個(gè)任務(wù)一一對(duì)應(yīng),m為正整數(shù);迭代模塊,用于基于目標(biāo)適應(yīng)度函數(shù)和所述分配關(guān)系對(duì)所述初代種群進(jìn)行種群迭代,得到目標(biāo)編碼;調(diào)度模塊,用于根據(jù)所述目標(biāo)編碼和所述邊緣節(jié)點(diǎn)的資源量對(duì)所述z個(gè)任務(wù)進(jìn)行調(diào)度。

12、根據(jù)本公開的另一個(gè)方面,還提供了一種電子設(shè)備,該電子設(shè)備包括:處理器;以及存儲(chǔ)器,用于存儲(chǔ)所述處理器的可執(zhí)行指令;其中,所述處理器配置為經(jīng)由執(zhí)行所述可執(zhí)行指令來執(zhí)行上述任意一項(xiàng)所述的任務(wù)調(diào)度方法。

13、根據(jù)本公開的另一個(gè)方面,還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其上存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述任意一項(xiàng)所述的任務(wù)調(diào)度方法。

14、根據(jù)本公開的另一個(gè)方面,還提供了一種計(jì)算機(jī)程序產(chǎn)品,包括:計(jì)算機(jī)程序或指令,所述計(jì)算機(jī)程序或指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述任意一項(xiàng)的任務(wù)調(diào)度方法。

15、本公開的實(shí)施例中,先獲取邊緣節(jié)點(diǎn)的資源量和待調(diào)度的z個(gè)任務(wù),z為正整數(shù),再根據(jù)邊緣節(jié)點(diǎn)的資源量,確定分配關(guān)系,分配關(guān)系用于指示z個(gè)任務(wù)預(yù)在邊緣節(jié)點(diǎn)和中心節(jié)點(diǎn)上的分配情況,并基于遺傳算法計(jì)算得到初代種群,初代種群包括m條初始編碼,每個(gè)初始編碼包括z個(gè)權(quán)重,z個(gè)權(quán)重與z個(gè)任務(wù)一一對(duì)應(yīng),m為正整數(shù),基于目標(biāo)適應(yīng)度函數(shù)和分配關(guān)系對(duì)初代種群進(jìn)行種群迭代,得到目標(biāo)編碼,并根據(jù)目標(biāo)編碼和邊緣節(jié)點(diǎn)的資源量對(duì)z個(gè)任務(wù)進(jìn)行調(diào)度。本公開通過邊緣節(jié)點(diǎn)的資源量和任務(wù)的需求量確定分配關(guān)系,并基于遺傳算法、分配關(guān)系和目標(biāo)適應(yīng)度函數(shù)對(duì)任務(wù)對(duì)應(yīng)的權(quán)重進(jìn)行迭代訓(xùn)練,得到目標(biāo)編碼,并根據(jù)目標(biāo)編碼和邊緣節(jié)點(diǎn)的資源量對(duì)z個(gè)任務(wù)進(jìn)行調(diào)度,從而提升了資源的利用率、減少了網(wǎng)絡(luò)負(fù)載,還可以提升ai大模型推理業(yè)務(wù)的整體性能和服務(wù)質(zhì)量。

16、應(yīng)當(dāng)理解的是,以上的一般描述和后文的細(xì)節(jié)描述僅是示例性和解釋性的,并不能限制本公開。

當(dāng)前第1頁1 2 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評(píng)論。精彩留言會(huì)獲得點(diǎn)贊!
1
乌恰县| 福海县| 武城县| 重庆市| 卢湾区| 宣武区| 隆昌县| 池州市| 达尔| 工布江达县| 广东省| 林甸县| 沐川县| 华池县| 荔波县| 辽阳市| 通州市| 廉江市| 左权县| 金沙县| 临沧市| 红原县| 清流县| 思南县| 张家界市| 纳雍县| 杂多县| 丰镇市| 如东县| 盐城市| 五华县| 扬州市| 巴里| 安义县| 淮北市| 石嘴山市| 红原县| 峨眉山市| 报价| 南昌县| 安吉县|