本發(fā)明屬于電磁器件設(shè)計,涉及一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法與系統(tǒng)。
背景技術(shù):
1、在過去的二十多年中,隨著人工智能領(lǐng)域的蓬勃發(fā)展,機器學(xué)習(xí)輔助優(yōu)化(machine?learning-assisted?optimization,mlao)的電磁器件設(shè)計方法在學(xué)術(shù)界和工業(yè)界得到了廣泛的關(guān)注和研究。利用機器學(xué)習(xí)方法建立低成本的代理模型,極大地緩解了全局優(yōu)化中調(diào)用全波仿真進行評估的計算負擔(dān),為電磁器件的設(shè)計提供了新范式。傳統(tǒng)的mlao方法所研究的問題設(shè)計參數(shù)規(guī)模較小,一般在20維以下,但隨著電磁器件設(shè)計復(fù)雜度的提升,設(shè)計變量的維度和優(yōu)化目標的數(shù)量也在增多,設(shè)計參數(shù)在20~50維的中等規(guī)模多目標優(yōu)化問題在實際工程中是常見的,傳統(tǒng)的mlao方法具有一定的局限性。隨著設(shè)計參數(shù)維度的提升以及優(yōu)化目標數(shù)量的增多,從樣本獲取、代理模型訓(xùn)練和優(yōu)化等層面給傳統(tǒng)的mlao方法帶來了挑戰(zhàn)。
技術(shù)實現(xiàn)思路
1、發(fā)明目的:針對以上問題,本發(fā)明提出一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法與系統(tǒng),能夠降低采樣和訓(xùn)練的計算成本,同時顯著提升優(yōu)化效率。
2、技術(shù)方案:為實現(xiàn)上述發(fā)明目的,本發(fā)明提供的一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,包括以下步驟:
3、(1)定義優(yōu)化問題的設(shè)計變量、優(yōu)化指標和優(yōu)化空間,利用拉丁超立方采樣得到低保真度初始樣本并進行低保真度全波仿真得到響應(yīng)值,從低保真度初始樣本中選取樣本進行高保真度全波仿真得到響應(yīng)值;
4、(2)對每個優(yōu)化目標分別利用協(xié)同克里金模型訓(xùn)練得到低保真度代理模型以及殘差模型
5、(3)通過多目標優(yōu)化算法進行全局優(yōu)化,得到多目標問題的多個帕累托最優(yōu)解;
6、(4)在每個帕累托最優(yōu)解的鄰域內(nèi)進行拉丁超立方采樣,樣本的響應(yīng)值通過步驟(2)中的全局代理模型預(yù)測得到,基于每個帕累托最優(yōu)解的鄰域內(nèi)的樣本訓(xùn)練得到局部代理模型,再利用基于梯度的單目標優(yōu)化算法進行局部優(yōu)化,得到多組局部最優(yōu)的參數(shù)組合,并根據(jù)適應(yīng)度函數(shù)值進行排序,局部優(yōu)化的適應(yīng)度函數(shù)值為各目標的預(yù)測值的加權(quán)和;
7、(5)從排序后的多組局部最優(yōu)的參數(shù)組合中選擇預(yù)設(shè)組數(shù)的最優(yōu)的參數(shù)組合進行低保真度全波仿真,采用自適應(yīng)增量學(xué)習(xí)的方式更新代理模型以降低訓(xùn)練的計算復(fù)雜度;在達到預(yù)設(shè)條件時,低保真度代理模型的超參數(shù)采用重新訓(xùn)練的方式更新,否則,代理模型采用增量學(xué)習(xí)方式更新;
8、(6)利用代理模型預(yù)測步驟(5)中得到預(yù)設(shè)組數(shù)的最優(yōu)的參數(shù)組合,從中選擇響應(yīng)最好的一組參數(shù)組合進行高保真度全波仿真;如果仿真的結(jié)果滿足設(shè)計指標,退出循環(huán),否則更新數(shù)據(jù)集并返回步驟(2),優(yōu)化繼續(xù)。
9、進一步優(yōu)選,步驟(2)中協(xié)同克里金模型訓(xùn)練參數(shù)時選擇多起點的方式。
10、進一步優(yōu)選,步驟(4)中局部優(yōu)化的適應(yīng)度函數(shù)設(shè)置為:
11、
12、其中
13、
14、ylo,i,m(xlo,i)是參數(shù)組合xlo,i第m個目標的預(yù)測值,wm是第m個目標的權(quán)重,yg,m是是第m個目標的目標值。
15、進一步優(yōu)選,步驟(4)中的局部代理模型為徑向基函數(shù)模型。
16、進一步優(yōu)選,步驟(5)中在達到預(yù)設(shè)的迭代次數(shù)或新增樣本的仿真值、預(yù)測值和預(yù)測標準差滿足設(shè)定的條件時重新訓(xùn)練。
17、進一步優(yōu)選,在新增樣本的仿真值yl,m(xlo,i)、預(yù)測值和預(yù)測標準差滿足時,重新訓(xùn)練,β為預(yù)設(shè)的經(jīng)驗常數(shù)。
18、基于相同的發(fā)明構(gòu)思,本發(fā)明提供的一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化系統(tǒng),包括:
19、初始設(shè)置與初始樣本獲取模塊,用于定義優(yōu)化問題的設(shè)計變量、優(yōu)化指標和優(yōu)化空間,利用拉丁超立方采樣得到低保真度初始樣本并進行低保真度全波仿真得到響應(yīng)值,從低保真度初始樣本中選取樣本進行高保真度全波仿真得到響應(yīng)值;
20、全局代理模型訓(xùn)練模塊,用于對每個優(yōu)化目標分別利用協(xié)同克里金模型訓(xùn)練得到低保真度代理模型以及殘差模型
21、全局優(yōu)化模塊,用于通過多目標優(yōu)化算法進行全局優(yōu)化,得到多目標問題的多個帕累托最優(yōu)解;
22、局部代理模型訓(xùn)練與優(yōu)化模塊,用于在每個帕累托最優(yōu)解的鄰域內(nèi)進行拉丁超立方采樣,樣本的響應(yīng)值通過全局代理模型預(yù)測得到,基于每個帕累托最優(yōu)解的鄰域內(nèi)的樣本訓(xùn)練得到局部代理模型,再利用基于梯度的單目標優(yōu)化算法進行局部優(yōu)化,得到多組局部最優(yōu)的參數(shù)組合,并根據(jù)適應(yīng)度函數(shù)值進行排序,局部優(yōu)化的適應(yīng)度函數(shù)值為各目標的預(yù)測值的加權(quán)和;
23、低保真度仿真與代理模型更新模塊,用于從排序后的多組局部最優(yōu)的參數(shù)組合中選擇預(yù)設(shè)組數(shù)的最優(yōu)的參數(shù)組合進行低保真度全波仿真,采用自適應(yīng)增量學(xué)習(xí)的方式更新代理模型以降低訓(xùn)練的計算復(fù)雜度;在達到預(yù)設(shè)條件時,低保真度代理模型的超參數(shù)采用重新訓(xùn)練的方式更新,否則,代理模型采用增量學(xué)習(xí)方式更新;
24、以及再預(yù)測與高保真度仿真模塊,用于利用代理模型預(yù)測得到預(yù)設(shè)組數(shù)的最優(yōu)的參數(shù)組合,從中選擇響應(yīng)最好的一組參數(shù)組合進行高保真度全波仿真;如果仿真的結(jié)果滿足設(shè)計指標,則結(jié)束,否則更新數(shù)據(jù)集并重新通過全局代理模型訓(xùn)練模塊、全局優(yōu)化模塊、局部代理模型訓(xùn)練與優(yōu)化模塊和低保真度仿真與代理模型更新模塊繼續(xù)優(yōu)化。
25、本發(fā)明還提供一種計算機系統(tǒng),包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序/指令,所述計算機程序/指令被處理器執(zhí)行時實現(xiàn)所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。
26、本發(fā)明還提供一種計算機可讀存儲介質(zhì),所述計算機可讀存儲介質(zhì)存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。
27、本發(fā)明還提供一種計算機程序產(chǎn)品,包括計算機程序/指令,所述計算機程序/指令被處理器執(zhí)行時實現(xiàn)所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。
28、有益效果:與現(xiàn)有技術(shù)相比,本發(fā)明具有以下有益效果:(1)采用可靠的多保真度模型進行采樣,降低了采樣的時間;(2)在訓(xùn)練過程中,采用自適應(yīng)增量學(xué)習(xí)的方式更新代理模型,增量學(xué)習(xí)能夠利用舊模型的超參數(shù)知識,減少了訓(xùn)練時間;(3)優(yōu)化過程中使用全局多目標優(yōu)化結(jié)合局部單目標優(yōu)化的混合優(yōu)化算法,提升了優(yōu)化收斂速度,從而減少了全波仿真的次數(shù),降低了全波仿真的時間。局部優(yōu)化引入了額外的計算成本,通過全局代理模型生成的數(shù)據(jù)訓(xùn)練局部代理模型一定程度上降低了局部優(yōu)化的計算時間。
1.一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于,包括以下步驟:
2.根據(jù)權(quán)利要求1所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于:步驟(2)中協(xié)同克里金模型訓(xùn)練參數(shù)時選擇多起點的方式。
3.根據(jù)權(quán)利要求1所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于:步驟(4)中局部優(yōu)化的適應(yīng)度函數(shù)設(shè)置為:
4.根據(jù)權(quán)利要求1所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于:步驟(4)中的局部代理模型為徑向基函數(shù)模型。
5.根據(jù)權(quán)利要求1所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于:步驟(5)中在達到預(yù)設(shè)的迭代次數(shù)或新增樣本的仿真值、預(yù)測值和預(yù)測標準差滿足設(shè)定的條件時重新訓(xùn)練。
6.根據(jù)權(quán)利要求5所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法,其特征在于:在新增樣本的仿真值yl,m(xlo,i)、預(yù)測值和預(yù)測標準差滿足時,重新訓(xùn)練,β為預(yù)設(shè)的經(jīng)驗常數(shù)。
7.一種增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化系統(tǒng),其特征在于,包括:
8.一種計算機系統(tǒng),包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序/指令,其特征在于,所述計算機程序/指令被處理器執(zhí)行時實現(xiàn)根據(jù)權(quán)利要求1-6任一項所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。
9.一種計算機可讀存儲介質(zhì),所述計算機可讀存儲介質(zhì)存儲有計算機程序,其特征在于,所述計算機程序被處理器執(zhí)行時實現(xiàn)根據(jù)權(quán)利要求1-6任一項所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。
10.一種計算機程序產(chǎn)品,包括計算機程序/指令,其特征在于,所述計算機程序/指令被處理器執(zhí)行時實現(xiàn)根據(jù)權(quán)利要求1-6任一項所述的增量多保真度機器學(xué)習(xí)輔助的混合優(yōu)化方法的步驟。