本說(shuō)明書(shū)涉及人工智能，尤其涉及一種任務(wù)處理方法及任務(wù)處理設(shè)備。

背景技術(shù)：

1、隨著生成式人工智能技術(shù)的發(fā)展，涌現(xiàn)出了各種能夠處理較復(fù)雜任務(wù)的機(jī)器學(xué)習(xí)的大模型，例如文生成視頻的大模型。

2、較復(fù)雜的任務(wù)處理一般需要多個(gè)模型進(jìn)行協(xié)助才能生成視頻。以文生視頻為例，在相關(guān)技術(shù)方案中，通過(guò)將多個(gè)機(jī)器學(xué)習(xí)模型組合成視頻生成鏈路，通過(guò)視頻生成鏈路來(lái)生成視頻，例如，通過(guò)下述視頻生成鏈路來(lái)生成視頻，文本提示詞-》優(yōu)化模型-》圖像提示詞生成模型-》圖像生成模型-》視頻生成模型-》質(zhì)量檢測(cè)模型-》超分模型。然而，由于多個(gè)模型的任務(wù)處理流程較復(fù)雜，導(dǎo)致處理任務(wù)的效率較低。

3、因此，如何提高多個(gè)模型處理任務(wù)的任務(wù)處理效率成為了亟待解決的技術(shù)難題。

4、背景技術(shù)部分的內(nèi)容僅僅是發(fā)明人個(gè)人所知曉的信息，并不代表上述信息在本公開(kāi)申請(qǐng)日之前已經(jīng)進(jìn)入公共領(lǐng)域，也不代表其可以成為本公開(kāi)的現(xiàn)有技術(shù)。

技術(shù)實(shí)現(xiàn)思路

1、本說(shuō)明書(shū)提供一種任務(wù)處理方法及任務(wù)處理設(shè)備，能夠高效地利用多個(gè)模型來(lái)處理任務(wù)，提高了資源利用率。

2、第一方面，本說(shuō)明書(shū)提供一種任務(wù)處理方法，應(yīng)用于分布式系統(tǒng)，所述分布式系統(tǒng)包括主節(jié)點(diǎn)以及多個(gè)從節(jié)點(diǎn)，所述從節(jié)點(diǎn)部署有任務(wù)模型的模型實(shí)例，所述任務(wù)模型用于執(zhí)行待處理任務(wù)的多個(gè)子任務(wù)中的至少一個(gè)子任務(wù)，所述方法包括：

3、通過(guò)所述主節(jié)點(diǎn)獲取至少一個(gè)所述待處理任務(wù)；

4、通過(guò)所述主節(jié)點(diǎn)將所述待處理任務(wù)的目標(biāo)子任務(wù)分配給對(duì)應(yīng)的目標(biāo)從節(jié)點(diǎn)，所述目標(biāo)從節(jié)點(diǎn)部署有用于執(zhí)行所述目標(biāo)子任務(wù)的目標(biāo)任務(wù)模型的模型實(shí)例；

5、通過(guò)所述主節(jié)點(diǎn)監(jiān)聽(tīng)所述目標(biāo)從節(jié)點(diǎn)返回的所述目標(biāo)子任務(wù)的執(zhí)行結(jié)果；以及

6、基于各個(gè)所述從節(jié)點(diǎn)的所述任務(wù)模型之間的模型依賴關(guān)系，通過(guò)所述主節(jié)點(diǎn)將監(jiān)聽(tīng)到的所述執(zhí)行結(jié)果傳輸給對(duì)應(yīng)的依賴從節(jié)點(diǎn)，所述依賴從節(jié)點(diǎn)為依賴所述目標(biāo)從節(jié)點(diǎn)的所述執(zhí)行結(jié)果的從節(jié)點(diǎn)。

7、在一些示例實(shí)施例中，基于上述方案，多個(gè)所述待處理任務(wù)存儲(chǔ)在消息隊(duì)列中，所述通過(guò)所述主節(jié)點(diǎn)獲取至少一個(gè)所述待處理任務(wù)，包括：

8、通過(guò)所述主節(jié)點(diǎn)從所述消息隊(duì)列中獲取至少一個(gè)所述待處理任務(wù)。

9、在一些示例實(shí)施例中，基于上述方案，所述通過(guò)所述主節(jié)點(diǎn)從所述消息隊(duì)列中獲取至少一個(gè)所述待處理任務(wù)，包括：

10、基于所述消息隊(duì)列的預(yù)設(shè)排隊(duì)策略，通過(guò)所述主節(jié)點(diǎn)從所述消息隊(duì)列中獲取至少一個(gè)所述待處理任務(wù)，所述預(yù)設(shè)排隊(duì)策略包括優(yōu)先級(jí)策略。

11、在一些示例實(shí)施例中，基于上述方案，在所述通過(guò)所述主節(jié)點(diǎn)從所述消息隊(duì)列中獲取至少一個(gè)所述待處理任務(wù)之前，所述方法還包括：

12、確定所述目標(biāo)從節(jié)點(diǎn)的目標(biāo)任務(wù)模型的模型實(shí)例的剩余實(shí)例資源；

13、基于所述目標(biāo)任務(wù)模型的模型實(shí)例的剩余實(shí)例資源，確定從所述消息隊(duì)列中獲取的所述待處理任務(wù)的數(shù)量。

14、在一些示例實(shí)施例中，基于上述方案，所述方法還包括：

15、統(tǒng)計(jì)各個(gè)所述從節(jié)點(diǎn)的所述任務(wù)模型的模型實(shí)例的節(jié)點(diǎn)實(shí)例資源；

16、基于所述從節(jié)點(diǎn)對(duì)應(yīng)的所述節(jié)點(diǎn)實(shí)例資源以及所述分布式系統(tǒng)的剩余系統(tǒng)資源，對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行擴(kuò)縮容。

17、在一些示例實(shí)施例中，基于上述方案，所述基于所述從節(jié)點(diǎn)對(duì)應(yīng)的所述節(jié)點(diǎn)實(shí)例資源以及所述分布式系統(tǒng)的剩余系統(tǒng)資源，對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行擴(kuò)縮容，包括：

18、基于所述從節(jié)點(diǎn)對(duì)應(yīng)的所述節(jié)點(diǎn)實(shí)例資源以及所述分布式系統(tǒng)的剩余系統(tǒng)資源，對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行按比例擴(kuò)縮容。

19、在一些示例實(shí)施例中，基于上述方案，所述基于所述從節(jié)點(diǎn)對(duì)應(yīng)的所述節(jié)點(diǎn)實(shí)例資源以及所述分布式系統(tǒng)的剩余系統(tǒng)資源，對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行按比例擴(kuò)縮容，包括：

20、若所述節(jié)點(diǎn)實(shí)例資源的剩余資源占比小于所述從節(jié)點(diǎn)對(duì)應(yīng)的第一預(yù)定比例閾值，則基于所述分布式系統(tǒng)的剩余系統(tǒng)資源對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行按比例擴(kuò)容；

21、若所述節(jié)點(diǎn)實(shí)例資源的剩余資源占比大于所述從節(jié)點(diǎn)對(duì)應(yīng)的第二預(yù)定比例閾值，則基于所述分布式系統(tǒng)的剩余系統(tǒng)資源對(duì)所述從節(jié)點(diǎn)的節(jié)點(diǎn)實(shí)例資源進(jìn)行按比例縮容。

22、在一些示例實(shí)施例中，基于上述方案，所述通過(guò)所述主節(jié)點(diǎn)將所述待處理任務(wù)的目標(biāo)子任務(wù)分配給對(duì)應(yīng)的目標(biāo)從節(jié)點(diǎn)，包括：

23、基于所述待處理任務(wù)的所述子任務(wù)與所述任務(wù)模型的對(duì)應(yīng)關(guān)系，確定與所述目標(biāo)子任務(wù)對(duì)應(yīng)的目標(biāo)任務(wù)模型；

24、基于所述任務(wù)模型與所述從節(jié)點(diǎn)的對(duì)應(yīng)關(guān)系，確定與所述目標(biāo)任務(wù)模型對(duì)應(yīng)的目標(biāo)從節(jié)點(diǎn)；

25、通過(guò)所述主節(jié)點(diǎn)將所述目標(biāo)子任務(wù)分配給所述目標(biāo)從節(jié)點(diǎn)。

26、在一些示例實(shí)施例中，基于上述方案，所述模型依賴關(guān)系為有向無(wú)環(huán)圖，所述基于各個(gè)所述從節(jié)點(diǎn)的所述任務(wù)模型之間的模型依賴關(guān)系，通過(guò)所述主節(jié)點(diǎn)將監(jiān)聽(tīng)到的所述執(zhí)行結(jié)果傳輸給對(duì)應(yīng)的依賴從節(jié)點(diǎn)，包括：

27、基于各個(gè)所述從節(jié)點(diǎn)的所述任務(wù)模型對(duì)應(yīng)的所述有向無(wú)環(huán)圖，確定所述目標(biāo)從節(jié)點(diǎn)對(duì)應(yīng)的所述依賴從節(jié)點(diǎn)；

28、通過(guò)所述主節(jié)點(diǎn)將監(jiān)聽(tīng)到的所述執(zhí)行結(jié)果傳輸給所述依賴從節(jié)點(diǎn)。

29、在一些示例實(shí)施例中，基于上述方案，所述方法還包括：

30、若所述主節(jié)點(diǎn)出現(xiàn)故障，則將備用主節(jié)點(diǎn)確定為所述主節(jié)點(diǎn)；

31、若所述從節(jié)點(diǎn)出現(xiàn)故障，則重新向所述從節(jié)點(diǎn)分配發(fā)生故障時(shí)所述從節(jié)點(diǎn)處理的任務(wù)。

32、在一些示例實(shí)施例中，基于上述方案，所述通過(guò)所述主節(jié)點(diǎn)監(jiān)聽(tīng)所述目標(biāo)從節(jié)點(diǎn)返回的所述目標(biāo)子任務(wù)的執(zhí)行結(jié)果，包括：

33、通過(guò)所述主節(jié)點(diǎn)的調(diào)度進(jìn)程監(jiān)聽(tīng)所述目標(biāo)從節(jié)點(diǎn)返回的所述目標(biāo)子任務(wù)的執(zhí)行結(jié)果，

34、所述通過(guò)所述主節(jié)點(diǎn)將監(jiān)聽(tīng)到的所述執(zhí)行結(jié)果傳輸給對(duì)應(yīng)的依賴從節(jié)點(diǎn)，包括：

35、通過(guò)所述主節(jié)點(diǎn)的所述調(diào)度進(jìn)程將監(jiān)聽(tīng)到的所述執(zhí)行結(jié)果傳輸給對(duì)應(yīng)的依賴從節(jié)點(diǎn)。

36、第二方面，本說(shuō)明書(shū)還提供一種任務(wù)處理設(shè)備，包括：至少一個(gè)存儲(chǔ)介質(zhì)，存儲(chǔ)有至少一個(gè)指令集，用于進(jìn)行任務(wù)處理處理；以及至少一個(gè)處理器，同所述至少一個(gè)存儲(chǔ)介質(zhì)通信連接，其中，當(dāng)所述任務(wù)處理設(shè)備運(yùn)行時(shí)，所述至少一個(gè)處理器讀取所述至少一個(gè)指令集，并且根據(jù)所述至少一個(gè)指令集的指示執(zhí)行本說(shuō)明書(shū)第一方面所述的任務(wù)處理方法。

37、由以上技術(shù)方案可知，本說(shuō)明書(shū)實(shí)施例提供的任務(wù)處理方法和設(shè)備，一方面，基于待處理任務(wù)的子任務(wù)與任務(wù)模型的對(duì)應(yīng)關(guān)系，將目標(biāo)子任務(wù)分配給分布式系統(tǒng)對(duì)應(yīng)的目標(biāo)從節(jié)點(diǎn)，能夠高效準(zhǔn)確地將待處理任務(wù)的子任務(wù)分配給分布式系統(tǒng)的從節(jié)點(diǎn)；另一方面，通過(guò)主節(jié)點(diǎn)監(jiān)聽(tīng)從節(jié)點(diǎn)返回的目標(biāo)子任務(wù)的執(zhí)行結(jié)果，基于各個(gè)從節(jié)點(diǎn)的任務(wù)模型之間的模型依賴關(guān)系，通過(guò)主節(jié)點(diǎn)將監(jiān)聽(tīng)到的執(zhí)行結(jié)果傳輸給對(duì)應(yīng)的依賴從節(jié)點(diǎn)，能夠?qū)崿F(xiàn)主節(jié)點(diǎn)對(duì)大量任務(wù)的異步非阻塞調(diào)度，從而能夠高效地利用多個(gè)模型來(lái)處理多個(gè)任務(wù)，提高了分布式系統(tǒng)的資源利用率。

38、本說(shuō)明書(shū)提供的任務(wù)處理方法和設(shè)備的其他功能將在以下說(shuō)明中部分列出。根據(jù)描述，以下數(shù)字和示例介紹的內(nèi)容將對(duì)那些本領(lǐng)域的普通技術(shù)人員顯而易見(jiàn)。本說(shuō)明書(shū)提供的任務(wù)處理方法和設(shè)備的創(chuàng)造性方面可以通過(guò)實(shí)踐或使用下面詳細(xì)示例中所述的方法、裝置和組合得到充分解釋。