本發(fā)明涉及優(yōu)化技術(shù),更具體地說(shuō),涉及用于實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化的系統(tǒng)和方法。
背景技術(shù):
1、通常,工程領(lǐng)域內(nèi)的優(yōu)化任務(wù)可能包括優(yōu)化問(wèn)題的重復(fù)公式。優(yōu)化的實(shí)踐者重新運(yùn)行優(yōu)化研究,所述優(yōu)化研究經(jīng)常進(jìn)行微小的修改,諸如改變潛在問(wèn)題的邊界條件,并且沒(méi)有任何機(jī)制來(lái)利用從過(guò)去的優(yōu)化研究的學(xué)習(xí)來(lái)加速相關(guān)問(wèn)題中的搜索。換句話說(shuō),現(xiàn)有的優(yōu)化器在解決相關(guān)的優(yōu)化問(wèn)題時(shí)沒(méi)有考慮從先前的優(yōu)化問(wèn)題的“學(xué)習(xí)”。這導(dǎo)致搜索模式的重復(fù),因此,搜索最佳解決方案的前導(dǎo)時(shí)間更長(zhǎng),從而增加了通過(guò)碳足跡(footprint)測(cè)量的計(jì)算能力。此外,基于現(xiàn)實(shí)世界應(yīng)用的優(yōu)化問(wèn)題需要高度可靠的數(shù)據(jù)集,所述數(shù)據(jù)集是對(duì)于生成在計(jì)算上昂貴的,并且經(jīng)常會(huì)受到由缺乏數(shù)據(jù)點(diǎn)引起的統(tǒng)計(jì)認(rèn)知不確定性的影響。
2、將學(xué)習(xí)從已解決的優(yōu)化問(wèn)題遷移到相關(guān)的未解決的優(yōu)化問(wèn)題可以減輕上述缺點(diǎn)。因此,需要一種機(jī)制來(lái)識(shí)別與手頭的優(yōu)化問(wèn)題相關(guān)的優(yōu)化問(wèn)題?,F(xiàn)有技術(shù)未能公開(kāi)用于識(shí)別相關(guān)或相似優(yōu)化問(wèn)題的技術(shù)。相反,現(xiàn)有技術(shù)依賴于獨(dú)立地和人工地構(gòu)造更簡(jiǎn)單的問(wèn)題,或者假設(shè)兩個(gè)優(yōu)化問(wèn)題彼此相關(guān)。這樣的假設(shè)可能會(huì)導(dǎo)致負(fù)遷移的情況,其中學(xué)習(xí)的遷移會(huì)阻礙優(yōu)化器的性能,而不是改進(jìn)。
3、存在這樣的機(jī)會(huì),其中優(yōu)化問(wèn)題可以被分類成組或族,其中表現(xiàn)出共同特征的優(yōu)化問(wèn)題可以被一起分組到單個(gè)族中。這種特征的非限制性示例包括設(shè)計(jì)變量的性質(zhì)、邊界條件、假設(shè)、問(wèn)題的物理性質(zhì)、模擬逼真度、響應(yīng)等。將相似的優(yōu)化問(wèn)題分組到族中打開(kāi)了在優(yōu)化問(wèn)題族內(nèi)利用學(xué)習(xí)并且通過(guò)遷移學(xué)習(xí)達(dá)到優(yōu)化的策略的可能性。
4、鑒于以上所述,需要一種通過(guò)消除學(xué)習(xí)的負(fù)遷移的可能性來(lái)執(zhí)行從已解決的優(yōu)化問(wèn)題到未解決的優(yōu)化問(wèn)題的遷移學(xué)習(xí)的機(jī)制。因此,本發(fā)明的目的是提供一種用于實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化的系統(tǒng)和方法。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的目的通過(guò)這里公開(kāi)的用于實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化的系統(tǒng)、裝置和方法來(lái)實(shí)現(xiàn)。
2、該方法包括由處理單元從客戶端設(shè)備接收至少指示目標(biāo)優(yōu)化任務(wù)的輸入。目標(biāo)優(yōu)化任務(wù)與未解決的優(yōu)化問(wèn)題相關(guān)聯(lián)。
3、該方法還包括通過(guò)應(yīng)用預(yù)定義的相似性檢查邏輯來(lái)確定目標(biāo)優(yōu)化任務(wù)和至少一個(gè)源優(yōu)化任務(wù)之間的相似性。源優(yōu)化任務(wù)與已解決的優(yōu)化問(wèn)題及其完整的優(yōu)化歷史相關(guān)聯(lián)。在一個(gè)實(shí)施例中,通過(guò)應(yīng)用預(yù)定義的相似性檢查邏輯來(lái)確定目標(biāo)優(yōu)化任務(wù)和至少一個(gè)源優(yōu)化任務(wù)之間的相似性包括執(zhí)行低級(jí)檢查以基于在源優(yōu)化任務(wù)和目標(biāo)優(yōu)化任務(wù)中呈現(xiàn)的元數(shù)據(jù)和特征中的至少一個(gè)來(lái)確定相似性。此外,如果低級(jí)檢查指示源優(yōu)化任務(wù)和目標(biāo)優(yōu)化任務(wù)之間的相似性,則執(zhí)行高級(jí)檢查以計(jì)算多個(gè)相似性指數(shù)。此外,基于多個(gè)相似性指數(shù)的值確定產(chǎn)出(outcome),其中該產(chǎn)出指示源優(yōu)化任務(wù)和目標(biāo)優(yōu)化任務(wù)之間的相似性和不相似性之一。在一個(gè)實(shí)施例中,高級(jí)檢查基于可解釋的自組織映射、圖像比較、皮爾遜(pearson)相似性指數(shù)、余弦相似性指數(shù)、杰卡德(jaccard)相似性指數(shù)、均方、結(jié)構(gòu)相似性指數(shù)和可視化中的一個(gè)或多個(gè)。
4、該方法還包括在客戶端設(shè)備的用戶界面上生成指示應(yīng)用相似性檢查邏輯的產(chǎn)出的輸出。
5、在進(jìn)一步實(shí)施例中,該方法還包括服從應(yīng)用相似性檢查邏輯的產(chǎn)出,使用預(yù)定義的邏輯來(lái)計(jì)算與源優(yōu)化任務(wù)和目標(biāo)優(yōu)化任務(wù)中的每一個(gè)相關(guān)聯(lián)的復(fù)雜度得分。此外,比較與源優(yōu)化任務(wù)和目標(biāo)優(yōu)化任務(wù)中的每一個(gè)相關(guān)聯(lián)的估計(jì)復(fù)雜度得分,以確定源優(yōu)化任務(wù)的復(fù)雜度是否大于目標(biāo)優(yōu)化任務(wù)的復(fù)雜度。
6、在一個(gè)實(shí)施例中,該方法還包括如果源優(yōu)化任務(wù)的復(fù)雜度大于目標(biāo)優(yōu)化任務(wù)的復(fù)雜度,則發(fā)起從源優(yōu)化任務(wù)到目標(biāo)優(yōu)化任務(wù)的遷移學(xué)習(xí)。在一個(gè)實(shí)施例中,發(fā)起從源優(yōu)化任務(wù)到目標(biāo)優(yōu)化任務(wù)的遷移學(xué)習(xí)包括基于已解決的優(yōu)化問(wèn)題的優(yōu)化歷史從多個(gè)優(yōu)化器中選擇目標(biāo)優(yōu)化器。在進(jìn)一步實(shí)施例中,該方法包括首先從源優(yōu)化任務(wù)中識(shí)別初始群體和與在源優(yōu)化任務(wù)中采用的源優(yōu)化器相關(guān)聯(lián)的一個(gè)或多個(gè)模型參數(shù)。一個(gè)或多個(gè)模型參數(shù)與源優(yōu)化器中的最小模型誤差相關(guān)聯(lián)。此外,基于所識(shí)別的初始群體和一個(gè)或多個(gè)模型參數(shù)來(lái)適配目標(biāo)優(yōu)化器。適配的目標(biāo)優(yōu)化器還用于生成未解決的優(yōu)化問(wèn)題的解決方案。在一個(gè)實(shí)施例中,源優(yōu)化器和目標(biāo)優(yōu)化器中的每一個(gè)都是元啟發(fā)式優(yōu)化算法。在進(jìn)一步的實(shí)施例中,元啟發(fā)式優(yōu)化算法是遺傳算法和神經(jīng)網(wǎng)絡(luò)算法之一。
7、在一個(gè)實(shí)施例中,該方法還包括在客戶端設(shè)備的用戶界面上生成至少指示未解決的優(yōu)化問(wèn)題的解決方案的通知。
8、本發(fā)明的目的通過(guò)一種用于實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化的裝置來(lái)實(shí)現(xiàn)。該裝置包括一個(gè)或多個(gè)處理單元,以及通信耦合到一個(gè)或多個(gè)處理單元的存儲(chǔ)器單元。存儲(chǔ)器單元包括以可由一個(gè)或多個(gè)處理單元執(zhí)行的機(jī)器可讀指令的形式存儲(chǔ)的比較模塊。比較模塊被配置成執(zhí)行上述方法步驟。還可以使用諸如圖形處理單元(gpu)、現(xiàn)場(chǎng)可編程門(mén)陣列(fpga)或神經(jīng)處理/計(jì)算引擎之類的協(xié)處理器來(lái)執(zhí)行比較模塊的運(yùn)行。此外,存儲(chǔ)器單元還可以包括數(shù)據(jù)庫(kù)。
9、此外,本發(fā)明的目的通過(guò)一種用于實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化的系統(tǒng)來(lái)實(shí)現(xiàn)。該系統(tǒng)包括一個(gè)或多個(gè)客戶端設(shè)備,以及通信地耦合到一個(gè)或多個(gè)客戶端設(shè)備的裝置,該裝置被配置用于根據(jù)如上所述的任何方法步驟,基于從一個(gè)或多個(gè)客戶端設(shè)備接收的輸入來(lái)實(shí)現(xiàn)基于遷移學(xué)習(xí)的優(yōu)化問(wèn)題。
10、本發(fā)明的目的還通過(guò)計(jì)算機(jī)程序產(chǎn)品來(lái)實(shí)現(xiàn)。計(jì)算機(jī)程序產(chǎn)品可以是例如計(jì)算機(jī)程序或者包括除計(jì)算機(jī)程序之外的另一個(gè)元件。該另一元件可以是硬件,例如存儲(chǔ)計(jì)算機(jī)程序的存儲(chǔ)器設(shè)備、用于使用計(jì)算機(jī)程序的硬件密鑰等,和/或軟件,例如用于使用計(jì)算機(jī)程序的文檔或軟件密鑰。
11、本發(fā)明的目的還通過(guò)計(jì)算機(jī)可讀介質(zhì)來(lái)實(shí)現(xiàn),在該計(jì)算機(jī)可讀介質(zhì)上保存計(jì)算機(jī)程序的程序代碼段,當(dāng)程序代碼段被執(zhí)行時(shí),該程序代碼段可被加載到執(zhí)行上述方法的處理器中和/或可由該處理器執(zhí)行。
12、通過(guò)計(jì)算機(jī)程序產(chǎn)品和/或非暫時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)實(shí)現(xiàn)本發(fā)明具有以下優(yōu)點(diǎn),可以通過(guò)安裝計(jì)算機(jī)程序來(lái)容易地采用計(jì)算機(jī)系統(tǒng),以如本發(fā)明所提出的那樣工作。
13、計(jì)算機(jī)程序產(chǎn)品可以是例如計(jì)算機(jī)程序或者包括除計(jì)算機(jī)程序之外的另一個(gè)元件。該另一元件可以是硬件,例如存儲(chǔ)計(jì)算機(jī)程序的存儲(chǔ)器設(shè)備、用于使用計(jì)算機(jī)程序的硬件密鑰等,和/或軟件,例如用于使用計(jì)算機(jī)程序的文檔或軟件密鑰。
14、利用結(jié)合對(duì)應(yīng)附圖對(duì)本發(fā)明的實(shí)施例的以下描述,本發(fā)明的屬性、特征和優(yōu)點(diǎn)以及實(shí)現(xiàn)它們的方式將變得更加明顯和易于理解(清楚)。所示實(shí)施例旨在說(shuō)明,而不是限制本發(fā)明。
1.一種計(jì)算機(jī)實(shí)現(xiàn)的方法,包括:
2.根據(jù)權(quán)利要求1所述的方法,其中通過(guò)應(yīng)用預(yù)定義的相似性檢查邏輯來(lái)確定目標(biāo)優(yōu)化任務(wù)和至少一個(gè)源優(yōu)化任務(wù)之間的相似性包括:
3.根據(jù)權(quán)利要求1和2所述的方法,其中所述高級(jí)檢查基于可解釋的自組織映射、圖像比較、皮爾遜系數(shù)、余弦相似性、杰卡德相似性、均方誤差、結(jié)構(gòu)相似性指數(shù)和可視化中的一個(gè)或多個(gè)。
4.根據(jù)權(quán)利要求1至3中任一項(xiàng)所述的方法,進(jìn)一步包括:
5.根據(jù)權(quán)利要求1至4中任一項(xiàng)所述的方法,進(jìn)一步包括:
6.根據(jù)權(quán)利要求1和5所述的方法,其中發(fā)起從源優(yōu)化任務(wù)到目標(biāo)優(yōu)化任務(wù)的遷移學(xué)習(xí)包括:
7.根據(jù)權(quán)利要求2和6所述的方法,其中發(fā)起從源優(yōu)化任務(wù)到目標(biāo)優(yōu)化任務(wù)的遷移學(xué)習(xí)進(jìn)一步包括:
8.根據(jù)權(quán)利要求1和7所述的方法,其中源優(yōu)化器和目標(biāo)優(yōu)化器中的每一個(gè)是元啟發(fā)式優(yōu)化算法。
9.根據(jù)權(quán)利要求1和7所述的方法,其中元啟發(fā)式優(yōu)化算法是遺傳算法和神經(jīng)網(wǎng)絡(luò)算法之一。
10.根據(jù)權(quán)利要求1和7所述的方法,進(jìn)一步包括:
11.一種裝置(105)包括:
12.一種系統(tǒng)(100)包括:
13.一種其中存儲(chǔ)有機(jī)器可讀指令的計(jì)算機(jī)程序產(chǎn)品,當(dāng)由一個(gè)或多個(gè)處理單元(115)執(zhí)行時(shí),所述機(jī)器可讀指令使得處理單元(155)執(zhí)行根據(jù)權(quán)利要求1至10中任一項(xiàng)所述的方法。