本申請(qǐng)涉及對(duì)抗性機(jī)器學(xué)習(xí)，特別是涉及一種面向神經(jīng)元覆蓋率提升的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法、測(cè)試方法及相關(guān)裝置。

背景技術(shù)：

1、卷積神經(jīng)網(wǎng)絡(luò)cnn近年來(lái)憑借著其強(qiáng)大的特征提取能力在圖像分類任務(wù)上取得了卓越的效果。然而相關(guān)研究表明，cnn模型容易受到對(duì)抗攻擊的影響，從而產(chǎn)生錯(cuò)誤的判斷。這也引發(fā)了關(guān)于深度學(xué)習(xí)模型可靠性與安全性的擔(dān)憂。對(duì)抗攻擊是指在輸入樣本中添加人類不易察覺(jué)的微小擾動(dòng)，誤導(dǎo)模型使其以高置信度產(chǎn)生錯(cuò)誤的輸出，這種攻擊的效果在圖像分類等計(jì)算機(jī)視覺(jué)任務(wù)中尤為突出。研究發(fā)現(xiàn)，即使是最先進(jìn)的cnn模型也容易受到這類攻擊的影響，這暴露出潛在的安全風(fēng)險(xiǎn)。如果攻擊者可以使cnn模型將停車標(biāo)志錯(cuò)認(rèn)為允許通行，將左轉(zhuǎn)識(shí)別為右轉(zhuǎn)，那么自動(dòng)駕駛汽車在實(shí)際道路中行駛的安全性就會(huì)顯著降低，存在嚴(yán)重的安全隱患。因此，在cnn模型測(cè)試的過(guò)程中，評(píng)估其抵御對(duì)抗樣本的能力成為了一個(gè)關(guān)鍵的考量因素。

2、基于對(duì)抗攻擊的測(cè)試方法是在原始測(cè)試集的基礎(chǔ)上，應(yīng)用不同對(duì)抗算法添加一定程度的擾動(dòng)，生成對(duì)抗樣本作為模型輸入，通過(guò)測(cè)試指標(biāo)反映cnn模型抵御對(duì)抗樣本的能力，已有研究表明，一個(gè)合格的測(cè)試集達(dá)到較高的神經(jīng)元覆蓋率時(shí)，可以確保對(duì)模型進(jìn)行充分的測(cè)試。然而如何在對(duì)抗樣本測(cè)試中有效提高模型的神經(jīng)元覆蓋率，確保測(cè)試的充分性仍然有待完善。

技術(shù)實(shí)現(xiàn)思路

1、本申請(qǐng)的目的是提供一種卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法、測(cè)試方法及相關(guān)裝置，在對(duì)抗樣本生成過(guò)程與神經(jīng)元覆蓋率相結(jié)合，在保留對(duì)抗功能的基礎(chǔ)上，能夠主動(dòng)提升生成樣本的神經(jīng)元覆蓋率，提高測(cè)試充分性。

2、為實(shí)現(xiàn)上述目的，本申請(qǐng)?zhí)峁┝巳缦路桨福?/p>

3、第一方面，本申請(qǐng)?zhí)峁┝艘环N卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，包括：

4、獲取被測(cè)模型和測(cè)試數(shù)據(jù)集，其中，所述被測(cè)模型為卷積神經(jīng)網(wǎng)絡(luò)模型；

5、將所述測(cè)試數(shù)據(jù)集中的待處理圖像輸入至所述被測(cè)模型中，根據(jù)目標(biāo)函數(shù)計(jì)算當(dāng)前迭代輪次的目標(biāo)神經(jīng)元的目標(biāo)函數(shù)值，其中，所述待處理圖像是對(duì)所述測(cè)試數(shù)據(jù)集中的原始圖像進(jìn)行預(yù)處理得到的圖像，所述目標(biāo)神經(jīng)元為從所述被測(cè)模型中隨機(jī)選取的一個(gè)未激活狀態(tài)的神經(jīng)元，所述目標(biāo)函數(shù)是根據(jù)對(duì)抗相關(guān)項(xiàng)變量和覆蓋率相關(guān)項(xiàng)變量計(jì)算得到的函數(shù)，所述對(duì)抗相關(guān)項(xiàng)變量的值是指利用交叉熵?fù)p失函數(shù)計(jì)算的所述被測(cè)模型的預(yù)測(cè)輸出和實(shí)際標(biāo)簽之間的差值，所述覆蓋率相關(guān)變量的值是指所述目標(biāo)神經(jīng)元的輸出值，所述目標(biāo)神經(jīng)元的輸出值是通過(guò)查詢神經(jīng)元統(tǒng)計(jì)模板獲得的數(shù)據(jù)，所述神經(jīng)元統(tǒng)計(jì)模板包括所述被測(cè)模型中每個(gè)神經(jīng)元的編號(hào)、類型、位置信息、輸出值和覆蓋狀態(tài)，所述覆蓋狀態(tài)為激活狀態(tài)或未激活狀態(tài)；

6、根據(jù)所述目標(biāo)函數(shù)值和擾動(dòng)閾值對(duì)所述待處理圖像進(jìn)行擾動(dòng)處理，得到對(duì)抗圖像。

7、第二方面，本申請(qǐng)?zhí)峁┝艘环N卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法，包括：

8、獲取被測(cè)模型、測(cè)試數(shù)據(jù)集和測(cè)試需求信息；

9、當(dāng)所述測(cè)試需求信息中的測(cè)試任務(wù)類型為直接對(duì)測(cè)試數(shù)據(jù)集進(jìn)行測(cè)試時(shí)，計(jì)算所述被測(cè)模型處理所述測(cè)試數(shù)據(jù)集中的原始圖像時(shí)對(duì)應(yīng)的第一神經(jīng)元覆蓋率和第一分類準(zhǔn)確率；

10、根據(jù)所述第一神經(jīng)元覆蓋率和所述第一分類準(zhǔn)確率，得到第一測(cè)試結(jié)果；

11、當(dāng)所述測(cè)試需求信息中的測(cè)試任務(wù)類型為首先生成所需的對(duì)抗樣本再進(jìn)行測(cè)試時(shí)，先執(zhí)行卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法生成對(duì)抗圖像，然后計(jì)算所述被測(cè)模型處理所述對(duì)抗圖像時(shí)對(duì)應(yīng)的第二神經(jīng)元覆蓋率和第二分類準(zhǔn)確率；

12、根據(jù)所述第二神經(jīng)元覆蓋率和所述第二分類準(zhǔn)確率，得到第二測(cè)試結(jié)果。

13、第三方面，本申請(qǐng)?zhí)峁┝艘环N計(jì)算機(jī)設(shè)備，包括：存儲(chǔ)器、處理器以及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述計(jì)算機(jī)程序以實(shí)現(xiàn)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

14、第四方面，本申請(qǐng)?zhí)峁┝艘环N計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

15、第五方面，本申請(qǐng)?zhí)峁┝艘环N計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

16、根據(jù)本申請(qǐng)?zhí)峁┑木唧w實(shí)施例，本申請(qǐng)公開(kāi)了以下技術(shù)效果：

17、本申請(qǐng)?zhí)峁┝艘环N卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法、測(cè)試方法及相關(guān)裝置，該對(duì)抗樣本生成方法中目標(biāo)函數(shù)采用的覆蓋率相關(guān)項(xiàng)變量與覆蓋率提升目標(biāo)關(guān)系緊密，能夠直接引導(dǎo)生成樣本未覆蓋的神經(jīng)元(即沒(méi)有被激活的神經(jīng)元)的輸出值增大，趨向于被覆蓋的狀態(tài)，使其變得活躍，從而提高生成樣本的神經(jīng)元覆蓋率，提高生成樣本的質(zhì)量和多樣性，使得在多種類型的cnn模型上均能取得良好且穩(wěn)定的效果，提高測(cè)試充分性。

技術(shù)特征：

1.一種卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，其特征在于，所述卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法包括：

2.根據(jù)權(quán)利要求1所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，其特征在于，所述預(yù)處理的過(guò)程具體包括：

3.根據(jù)權(quán)利要求1所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，其特征在于，每個(gè)所述神經(jīng)元的輸出值的具體計(jì)算過(guò)程包括：

4.根據(jù)權(quán)利要求1所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，其特征在于，所述目標(biāo)函數(shù)的表達(dá)式包括：

5.根據(jù)權(quán)利要求1所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，其特征在于，根據(jù)所述目標(biāo)函數(shù)值和擾動(dòng)閾值對(duì)所述待處理圖像進(jìn)行擾動(dòng)處理，得到對(duì)抗圖像，具體包括：

6.一種卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法，其特征在于，所述卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法包括：

7.根據(jù)權(quán)利要求6所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法，其特征在于，所述第二神經(jīng)元覆蓋率的表達(dá)式為：

8.一種計(jì)算機(jī)設(shè)備，包括：存儲(chǔ)器、處理器以及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的計(jì)算機(jī)程序，其特征在于，所述處理器執(zhí)行所述計(jì)算機(jī)程序以實(shí)現(xiàn)權(quán)利要求1-5中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者權(quán)利要求6-7中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其特征在于，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-5中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者權(quán)利要求6-7中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

10.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，其特征在于，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-5中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法，或者權(quán)利要求6-7中任一項(xiàng)所述的卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本測(cè)試方法。

技術(shù)總結(jié)
本申請(qǐng)公開(kāi)了一種卷積神經(jīng)網(wǎng)絡(luò)對(duì)抗樣本生成方法、測(cè)試方法及相關(guān)裝置，涉及對(duì)抗性機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，該對(duì)抗樣本生成方法中目標(biāo)函數(shù)采用的覆蓋率相關(guān)項(xiàng)變量與覆蓋率提升目標(biāo)關(guān)系緊密，能夠直接引導(dǎo)生成樣本未覆蓋的神經(jīng)元(即沒(méi)有被激活的神經(jīng)元)的輸出值增大，趨向于被覆蓋的狀態(tài)，使其變得活躍，從而提高生成樣本的神經(jīng)元覆蓋率，提高生成樣本的質(zhì)量和多樣性，使得在多種類型的CNN模型上均能取得良好且穩(wěn)定的效果，提高測(cè)試充分性。

技術(shù)研發(fā)人員：艾駿,唐子沐,施韜,張明星
受保護(hù)的技術(shù)使用者：北京航空航天大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/9