本發(fā)明涉及低功耗ai處理器，尤其涉及一種低功耗ai處理器的負(fù)載均衡方法、芯片及存儲介質(zhì)。

背景技術(shù)：

1、神經(jīng)擬態(tài)處理器通過模擬生物神經(jīng)系統(tǒng)的工作方式，在處理神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)時(shí)展現(xiàn)出獨(dú)特優(yōu)勢。然而，當(dāng)前神經(jīng)擬態(tài)處理器在執(zhí)行大規(guī)模神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)時(shí)，由于缺乏有效的資源管理和負(fù)載均衡機(jī)制，容易出現(xiàn)處理器核心間負(fù)載分布不均、緩存資源利用率低、數(shù)據(jù)傳輸開銷大等問題。特別是在多核心協(xié)同計(jì)算過程中，由于缺乏對計(jì)算任務(wù)特性和資源依賴關(guān)系的深入分析，難以實(shí)現(xiàn)計(jì)算資源的高效調(diào)度和優(yōu)化分配。

2、現(xiàn)有的神經(jīng)擬態(tài)處理器普遍缺乏動態(tài)能效管理機(jī)制，無法根據(jù)實(shí)際計(jì)算負(fù)載對系統(tǒng)資源進(jìn)行靈活調(diào)整。這導(dǎo)致在處理動態(tài)變化的神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)時(shí)，既無法保證計(jì)算性能，又造成了不必要的能源浪費(fèi)。尤其是在緩存資源管理方面，傳統(tǒng)的多級緩存結(jié)構(gòu)難以適應(yīng)神經(jīng)擬態(tài)計(jì)算的特殊需求，影響了系統(tǒng)整體的計(jì)算效率和能源利用率。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明提供了一種低功耗ai處理器的負(fù)載均衡方法、芯片及存儲介質(zhì)，本發(fā)明實(shí)現(xiàn)了低功耗ai處理器的負(fù)載均衡，提高了計(jì)算效率和能源利用率。

2、第一方面，本發(fā)明提供了一種低功耗ai處理器的負(fù)載均衡方法，所述低功耗ai處理器的負(fù)載均衡方法包括：

3、對低功耗ai處理器中的多個(gè)神經(jīng)擬態(tài)核心進(jìn)行緩存資源劃分，得到雙層緩存結(jié)構(gòu)；

4、根據(jù)所述雙層緩存結(jié)構(gòu)對目標(biāo)計(jì)算任務(wù)進(jìn)行特性分析，并構(gòu)建計(jì)算任務(wù)有向無環(huán)圖和依賴強(qiáng)度矩陣；

5、基于所述計(jì)算任務(wù)有向無環(huán)圖和所述依賴強(qiáng)度矩陣，進(jìn)行任務(wù)切分，得到子任務(wù)劃分方案；

6、根據(jù)所述任務(wù)劃分方案生成每個(gè)子任務(wù)的資源需求向量，并建立每個(gè)神經(jīng)擬態(tài)核心的核心狀態(tài)矩陣，創(chuàng)建任務(wù)-核心映射表；

7、基于所述任務(wù)-核心映射表，將神經(jīng)擬態(tài)核心組織為多個(gè)同心環(huán)層，得到多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)；

8、基于所述多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)計(jì)算每個(gè)神經(jīng)擬態(tài)核心的多個(gè)性能指標(biāo)，并進(jìn)行動態(tài)負(fù)載優(yōu)化，得到動態(tài)負(fù)載優(yōu)化策略。

9、第二方面，本發(fā)明提供了一種低功耗ai處理器的負(fù)載均衡裝置，所述低功耗ai處理器的負(fù)載均衡裝置包括：

10、劃分模塊，用于對低功耗ai處理器中的多個(gè)神經(jīng)擬態(tài)核心進(jìn)行緩存資源劃分，得到雙層緩存結(jié)構(gòu)；

11、分析模塊，用于根據(jù)所述雙層緩存結(jié)構(gòu)對目標(biāo)計(jì)算任務(wù)進(jìn)行特性分析，并構(gòu)建計(jì)算任務(wù)有向無環(huán)圖和依賴強(qiáng)度矩陣；

12、切分模塊，用于基于所述計(jì)算任務(wù)有向無環(huán)圖和所述依賴強(qiáng)度矩陣，進(jìn)行任務(wù)切分，得到子任務(wù)劃分方案；

13、創(chuàng)建模塊，用于根據(jù)所述任務(wù)劃分方案生成每個(gè)子任務(wù)的資源需求向量，并建立每個(gè)神經(jīng)擬態(tài)核心的核心狀態(tài)矩陣，創(chuàng)建任務(wù)-核心映射表；

14、處理模塊，用于基于所述任務(wù)-核心映射表，將神經(jīng)擬態(tài)核心組織為多個(gè)同心環(huán)層，得到多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)；

15、優(yōu)化模塊，用于基于所述多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)計(jì)算每個(gè)神經(jīng)擬態(tài)核心的多個(gè)性能指標(biāo)，并進(jìn)行動態(tài)負(fù)載優(yōu)化，得到動態(tài)負(fù)載優(yōu)化策略。

16、本發(fā)明第三方面提供了一種芯片，用于執(zhí)行上述的低功耗ai處理器的負(fù)載均衡方法。

17、本發(fā)明的第四方面提供了一種計(jì)算機(jī)可讀存儲介質(zhì)，所述計(jì)算機(jī)可讀存儲介質(zhì)中存儲有指令，當(dāng)其在計(jì)算機(jī)上運(yùn)行時(shí)，使得計(jì)算機(jī)執(zhí)行上述的低功耗ai處理器的負(fù)載均衡方法。

18、本發(fā)明提供的技術(shù)方案中，通過劃分指令緩存區(qū)、數(shù)據(jù)緩存區(qū)和突觸權(quán)重緩存區(qū)，提高了緩存資源的訪問效率；采用動態(tài)電源管理機(jī)制，對低頻訪問的緩存單元進(jìn)行斷電處理，降低了系統(tǒng)靜態(tài)功耗；實(shí)現(xiàn)了緩存資源的精細(xì)化管理，提高了緩存空間利用率?；谟?jì)算任務(wù)有向無環(huán)圖和依賴強(qiáng)度矩陣的任務(wù)切分方案，降低了任務(wù)間的數(shù)據(jù)依賴開銷；通過動態(tài)規(guī)劃算法實(shí)現(xiàn)了計(jì)算負(fù)載的均衡分配；考慮了突觸計(jì)算特性的任務(wù)優(yōu)先級機(jī)制，提高了關(guān)鍵路徑任務(wù)的執(zhí)行效率。多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)架構(gòu)降低了核心間的通信延遲；點(diǎn)對點(diǎn)鏈路機(jī)制減少了數(shù)據(jù)傳輸?shù)闹虚g環(huán)節(jié)；層間橋接策略優(yōu)化了跨層數(shù)據(jù)傳輸效率。實(shí)時(shí)監(jiān)測和評估系統(tǒng)性能指標(biāo)，實(shí)現(xiàn)了資源分配的動態(tài)調(diào)整；基于負(fù)載均衡度的任務(wù)遷移機(jī)制，避免了局部資源過載；多維度的性能評價(jià)體系保證了系統(tǒng)的穩(wěn)定運(yùn)行?；谠L問頻率的緩存管理策略降低了系統(tǒng)整體功耗；資源動態(tài)配置機(jī)制提高了硬件利用率；任務(wù)局部性優(yōu)化減少了數(shù)據(jù)移動開銷。

技術(shù)特征：

1.一種低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述對低功耗ai處理器中的多個(gè)神經(jīng)擬態(tài)核心進(jìn)行緩存資源劃分，得到雙層緩存結(jié)構(gòu)，包括：

3.根據(jù)權(quán)利要求2所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述根據(jù)所述雙層緩存結(jié)構(gòu)對目標(biāo)計(jì)算任務(wù)進(jìn)行特性分析，并構(gòu)建計(jì)算任務(wù)有向無環(huán)圖和依賴強(qiáng)度矩陣，包括：

4.根據(jù)權(quán)利要求3所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述基于所述計(jì)算任務(wù)有向無環(huán)圖和所述依賴強(qiáng)度矩陣，進(jìn)行任務(wù)切分，得到子任務(wù)劃分方案，包括：

5.根據(jù)權(quán)利要求4所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述根據(jù)所述任務(wù)劃分方案生成每個(gè)子任務(wù)的資源需求向量，并建立每個(gè)神經(jīng)擬態(tài)核心的核心狀態(tài)矩陣，創(chuàng)建任務(wù)-核心映射表，包括：

6.根據(jù)權(quán)利要求5所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述基于所述任務(wù)-核心映射表，將神經(jīng)擬態(tài)核心組織為多個(gè)同心環(huán)層，得到多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)，包括：

7.根據(jù)權(quán)利要求6所述的低功耗ai處理器的負(fù)載均衡方法，其特征在于，所述基于所述多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)計(jì)算每個(gè)神經(jīng)擬態(tài)核心的多個(gè)性能指標(biāo)，并進(jìn)行動態(tài)負(fù)載優(yōu)化，得到動態(tài)負(fù)載優(yōu)化策略，包括：

8.一種低功耗ai處理器的負(fù)載均衡裝置，其特征在于，用于執(zhí)行如權(quán)利要求1-7中任一項(xiàng)所述的低功耗ai處理器的負(fù)載均衡方法，所述低功耗ai處理器的負(fù)載均衡裝置包括：

9.一種芯片，其特征在于，用于實(shí)現(xiàn)權(quán)利要求1至7中任一項(xiàng)所述的低功耗ai處理器的負(fù)載均衡方法。

10.一種計(jì)算機(jī)可讀存儲介質(zhì)，其上存儲有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器運(yùn)行時(shí)使得所述處理器執(zhí)行如權(quán)利要求1至7中任一項(xiàng)所述的低功耗ai處理器的負(fù)載均衡方法。

技術(shù)總結(jié)
本發(fā)明涉及低功耗AI處理器技術(shù)領(lǐng)域，公開了一種低功耗AI處理器的負(fù)載均衡方法、芯片及存儲介質(zhì)，該方法包括：對低功耗AI處理器中的多個(gè)神經(jīng)擬態(tài)核心進(jìn)行緩存資源劃分，得到雙層緩存結(jié)構(gòu)；對目標(biāo)計(jì)算任務(wù)進(jìn)行特性分析，并構(gòu)建計(jì)算任務(wù)有向無環(huán)圖和依賴強(qiáng)度矩陣；進(jìn)行任務(wù)切分，得到子任務(wù)劃分方案；創(chuàng)建任務(wù)?核心映射表；基于任務(wù)?核心映射表，將神經(jīng)擬態(tài)核心組織為多個(gè)同心環(huán)層，得到多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)；基于多層環(huán)形協(xié)同計(jì)算網(wǎng)絡(luò)計(jì)算每個(gè)神經(jīng)擬態(tài)核心的多個(gè)性能指標(biāo)，并進(jìn)行動態(tài)負(fù)載優(yōu)化，得到動態(tài)負(fù)載優(yōu)化策略。本發(fā)明實(shí)現(xiàn)了低功耗AI處理器的負(fù)載均衡，提高了計(jì)算效率和能源利用率。

技術(shù)研發(fā)人員：徐朝陽
受保護(hù)的技術(shù)使用者：深圳市智仁科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/9