實(shí)時(shí)控制系統(tǒng)管理的制作方法
【專利摘要】本發(fā)明公開了在網(wǎng)絡(luò)化環(huán)境中用于實(shí)時(shí)控制系統(tǒng)管理的系統(tǒng)和方法。在一個(gè)實(shí)施例中，用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的基于計(jì)算機(jī)的系統(tǒng)包含處理器以及存儲(chǔ)在耦合到該處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被該處理器執(zhí)行時(shí)將該處理器配置為生成用于嵌入式控制系統(tǒng)的行為訓(xùn)練集，其中該行為訓(xùn)練集在訓(xùn)練過程中將嵌入式控制系統(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)以限定嵌入式控制系統(tǒng)的行為指紋，在嵌入式控制系統(tǒng)的操作期間實(shí)時(shí)監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出，并且當(dāng)實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或者從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表現(xiàn)為異常時(shí)產(chǎn)生警報(bào)。
【專利說明】實(shí)時(shí)控制系統(tǒng)管理
【技術(shù)領(lǐng)域】
[0001]本文所描述的主題涉及嵌入式控制系統(tǒng)，并且更具體地涉及實(shí)施實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的系統(tǒng)和方法。
【背景技術(shù)】
[0002]嵌入式控制系統(tǒng)是制造加工和航空應(yīng)用如飛行器和任務(wù)系統(tǒng)操作的主要部分。網(wǎng)絡(luò)化嵌入式傳感器、控制器和致動(dòng)器由于更多的收集信息和計(jì)算機(jī)驅(qū)動(dòng)控制而提高性能效率。然而，這些系統(tǒng)的特性能夠隨著時(shí)間顯著偏離標(biāo)稱狀態(tài)或者由于不同的原因如正常使用、損壞或甚至網(wǎng)絡(luò)攻擊而退化。此外，隨著嵌入式設(shè)備的全球供應(yīng)鏈條和網(wǎng)絡(luò)攻擊復(fù)雜性的增加，利用零時(shí)差攻擊的存在和利用設(shè)計(jì)漏洞的可能性也已經(jīng)增加。
[0003]這些嵌入式控制系統(tǒng)的故障或退化可能很細(xì)微并且難以檢測(cè)。因此，這表明需要一種實(shí)時(shí)檢測(cè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)的異常行為的系統(tǒng)和方法。

【發(fā)明內(nèi)容】

[0004]本發(fā)明公開了在網(wǎng)絡(luò)化環(huán)境中用于實(shí)時(shí)控制系統(tǒng)管理的系統(tǒng)和方法。在一個(gè)實(shí)施例中，一種用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的基于計(jì)算機(jī)的方法包含生成用于嵌入式控制系統(tǒng)的行為訓(xùn)練集，其中該行為訓(xùn)練集在訓(xùn)練過程中將嵌入式控制系統(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)以限定嵌入式控制系統(tǒng)的行為指紋，在嵌入式控制系統(tǒng)的操作期間實(shí)時(shí)監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出，以及當(dāng)實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表現(xiàn)為異常時(shí)生成警報(bào)。
[0005]在另一個(gè)實(shí)施例中，一種用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的基于計(jì)算機(jī)的系統(tǒng)包含處理器和存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為生成用于嵌入式控制系統(tǒng)的行為訓(xùn)練集，其中該行為訓(xùn)練集在訓(xùn)練過程中將嵌入式控制系統(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)以限定嵌入式控制系統(tǒng)的行為指紋，在嵌入式控制系統(tǒng)的操作期間實(shí)時(shí)監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出，以及當(dāng)實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表現(xiàn)為異常時(shí)生成警報(bào)。
[0006]有利地，該基于計(jì)算機(jī)的系統(tǒng)進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為使用至少一個(gè)參數(shù)調(diào)試行為訓(xùn)練集。優(yōu)選地，該至少一個(gè)參數(shù)選自一組參數(shù)，所述一組參數(shù)包含:儲(chǔ)存器大小參數(shù)，其限定儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中節(jié)點(diǎn)的數(shù)量；輸入定標(biāo)參數(shù)，其對(duì)嵌入式控制系統(tǒng)的輸入屬性進(jìn)行加權(quán)；輸出反饋定標(biāo)參數(shù)，其限定用于儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的反饋量；儲(chǔ)存器權(quán)重矩陣參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)脈沖響應(yīng)；耗散率參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中對(duì)噪聲行為和時(shí)間扭曲行為的靈敏度；以及噪聲定標(biāo)參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)噪聲積分器。[0007]有利地，該基于計(jì)算機(jī)的系統(tǒng)進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為:將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出進(jìn)行比較；以及當(dāng)實(shí)時(shí)操作中從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出之間的偏差超過閾值時(shí)，將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表征為異常。優(yōu)選地，該處理器確定該異常的嚴(yán)重程度。
[0008]有利地，該基于計(jì)算機(jī)的系統(tǒng)進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為向耦合到嵌入式控制系統(tǒng)的一個(gè)或更多個(gè)應(yīng)用程序發(fā)布警報(bào)。
[0009]有利地，該基于計(jì)算機(jī)的系統(tǒng)進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為:將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)存儲(chǔ)在存儲(chǔ)器中；以及使用存儲(chǔ)器中的實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)更新行為訓(xùn)練集。
[0010]在另一個(gè)實(shí)施例中，一種計(jì)算機(jī)程序產(chǎn)品包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為生成用于嵌入式控制系統(tǒng)的行為訓(xùn)練集，其中該行為訓(xùn)練集在訓(xùn)練過程中將嵌入式控制系統(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)以限定嵌入式控制系統(tǒng)的行為指紋，在嵌入式控制系統(tǒng)的操作期間實(shí)時(shí)監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出，以及當(dāng)實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表現(xiàn)為異常時(shí)生成警報(bào)。
[0011]有利地，該計(jì)算機(jī)程序產(chǎn)品進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為使用至少一個(gè)參數(shù)調(diào)試行為訓(xùn)練集。優(yōu)選地，該至少一個(gè)參數(shù)選自一組參數(shù)，所述一組參數(shù)包含:儲(chǔ)存器大小參數(shù)，其限定儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中節(jié)點(diǎn)的數(shù)量；輸入定標(biāo)參數(shù)，其對(duì)嵌入式控制系統(tǒng)的輸入屬性進(jìn)行加權(quán)；輸出反饋定標(biāo)參數(shù)，其限定用于儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的反饋量；儲(chǔ)存器權(quán)重矩陣參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)脈沖響應(yīng)；耗散率參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中對(duì)噪聲行為和時(shí)間扭曲行為的靈敏度；以及噪聲定標(biāo)參數(shù)，其控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)噪聲積分器。
[0012]有利地，該計(jì)算機(jī)程序產(chǎn)品進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為:將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出進(jìn)行比較；以及當(dāng)實(shí)時(shí)操作中從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出之間的偏差超過閾值時(shí)，將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表征為異常。優(yōu)選地，該處理器進(jìn)一步確定該異常的嚴(yán)重程度。
[0013]有利地，該計(jì)算機(jī)程序產(chǎn)品進(jìn)一步包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為:將實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)存儲(chǔ)在存儲(chǔ)器中；以及使用存儲(chǔ)器中的實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)更新行為訓(xùn)練集。
[0014]根據(jù)在此提供的說明書，更多領(lǐng)域的適用性將是顯而易見的。應(yīng)當(dāng)理解的是本說明書和具體示例僅用于說明性目的而不意味著對(duì)本公開范圍的限制。
【專利附圖】

【附圖說明】
[0015]下面參照以下附圖詳細(xì)說明根據(jù)本發(fā)明教導(dǎo)的方法、系統(tǒng)和計(jì)算機(jī)程序產(chǎn)品的實(shí)施例。
[0016]圖1A-1B是根據(jù)一些實(shí)施例實(shí)施實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的系統(tǒng)的示意圖。
[0017]圖2是根據(jù)某些實(shí)施例可以適用于實(shí)施實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的計(jì)算設(shè)備的示意圖。
[0018]圖3是根據(jù)一些實(shí)施例說明用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的方法中的操作的流程圖。
【具體實(shí)施方式】
[0019]本文描述了用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控及異常檢測(cè)的系統(tǒng)和方法。某些實(shí)施例的具體細(xì)節(jié)在以下說明及附圖中被闡釋以提供對(duì)這些實(shí)施例的全面理解。然而，本領(lǐng)域技術(shù)人員將認(rèn)識(shí)到可以在沒有以下說明中所描述的若干細(xì)節(jié)的情況下實(shí)現(xiàn)可替換的實(shí)施例。
[0020]在此描述的各種實(shí)施例被設(shè)置在一個(gè)或更多個(gè)基于計(jì)算機(jī)的系統(tǒng)的背景中，這些系統(tǒng)可以實(shí)施操作以生成用于嵌入式控制系統(tǒng)的行為訓(xùn)練集。例如，在某些實(shí)施例中，基于計(jì)算機(jī)的系統(tǒng)可以形成訓(xùn)練集，該訓(xùn)練集在訓(xùn)練過程中將嵌入式控制系統(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)以限定在正?；蚍€(wěn)定條件下運(yùn)行的嵌入式控制系統(tǒng)的行為指紋?？梢砸詫⑶度胧娇刂葡到y(tǒng)的輸入與來自嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)的形式將行為指紋存儲(chǔ)在合適的數(shù)據(jù)存儲(chǔ)如數(shù)據(jù)庫中。
[0021]在實(shí)時(shí)操作中，基于計(jì)算機(jī)的系統(tǒng)可以在嵌入式控制系統(tǒng)的操作期間監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出。在某些實(shí)施例中，從該系統(tǒng)收集的輸出可以與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出進(jìn)行比較。如果實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的輸入或從嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)與訓(xùn)練期間收集的一個(gè)或更多個(gè)輸出之間的偏差超過閾值，則實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的一個(gè)或更多輸入或從嵌入式控制系統(tǒng)收集的輸出可以被表征為異常。當(dāng)實(shí)時(shí)操作中進(jìn)入嵌入式控制系統(tǒng)的一個(gè)或更多個(gè)輸入或從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出表現(xiàn)出異常時(shí)，該系統(tǒng)可以產(chǎn)生警報(bào)。
[0022]圖1A-1B是根據(jù)一些實(shí)施例實(shí)現(xiàn)實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控及異常檢測(cè)的系統(tǒng)的示意圖。首先參考圖1A，簡(jiǎn)單地說，在一個(gè)實(shí)施例中，系統(tǒng)100可以被配置為訓(xùn)練模式，在該模式下系統(tǒng)100被配置為生成用于一個(gè)或更多個(gè)嵌入式控制系統(tǒng)的行為訓(xùn)練集。在一些實(shí)施例中，系統(tǒng)100從一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110接收輸入。網(wǎng)絡(luò)化嵌入式控制系統(tǒng)Iio可以包含制造平臺(tái)上的設(shè)備中的一個(gè)或更多個(gè)嵌入式控制器。例如，網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110可以包含監(jiān)控制造工藝或使制造工藝自動(dòng)化的一個(gè)或更多個(gè)嵌入式控制器。來自網(wǎng)絡(luò)化嵌入式控制系統(tǒng)的數(shù)據(jù)輸出可以包含一個(gè)或更多個(gè)工藝參數(shù)、設(shè)備測(cè)量值、環(huán)境條件讀數(shù)等。
[0023]系統(tǒng)100包含一個(gè)或更多個(gè)行為屬性輸入應(yīng)用程序120、行為輸入及分類器相關(guān)器應(yīng)用程序125、行為輸入及分類數(shù)據(jù)存儲(chǔ)裝置130、儲(chǔ)存器計(jì)算參數(shù)數(shù)據(jù)存儲(chǔ)裝置140以及行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145。在一些實(shí)施例中，應(yīng)用程序120、125、135可以被實(shí)現(xiàn)為存儲(chǔ)在永久性計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為執(zhí)行操作以生成行為訓(xùn)練集，該行為訓(xùn)練集將處于穩(wěn)定和/或預(yù)定工況下的網(wǎng)絡(luò)化嵌入式控制系統(tǒng)Iio的輸入和輸出相關(guān)聯(lián)。
[0024]現(xiàn)在參考圖1B，在一些實(shí)施例中，系統(tǒng)100可以被配置為在嵌入式控制系統(tǒng)100操作期間實(shí)時(shí)監(jiān)控嵌入式控制系統(tǒng)的輸入和來自嵌入式控制系統(tǒng)的輸出。網(wǎng)絡(luò)化嵌入式控制系統(tǒng)Iio的數(shù)據(jù)輸入可以包含來自一個(gè)或更多個(gè)控制系統(tǒng)的控制參數(shù)和來自與網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110關(guān)聯(lián)的一個(gè)或更多個(gè)監(jiān)控系統(tǒng)的反饋。來自網(wǎng)絡(luò)化嵌入式控制系統(tǒng)的數(shù)據(jù)輸出可以包含一個(gè)或更多個(gè)工藝參數(shù)、設(shè)備測(cè)量值、環(huán)境條件讀數(shù)等。
[0025]在圖1B描述的監(jiān)控配置中，系統(tǒng)100包含一個(gè)或更多個(gè)行為屬性輸入應(yīng)用程序120、行為輸入及分類器相關(guān)器應(yīng)用程序125、行為輸入及分類數(shù)據(jù)存儲(chǔ)裝置130、儲(chǔ)存器計(jì)算參數(shù)數(shù)據(jù)存儲(chǔ)裝置140、行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145，行為模型應(yīng)用程序165、異常行為分類器應(yīng)用程序170以及行為警報(bào)發(fā)布器應(yīng)用程序175。在一些實(shí)施例中，應(yīng)用程序120、125、135、165、170、175可以被實(shí)現(xiàn)為存儲(chǔ)在永久性計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被處理器執(zhí)行時(shí)將處理器配置為執(zhí)行操作以生成行為訓(xùn)練集，該行為訓(xùn)練集將處于穩(wěn)定和/或預(yù)定工況下的網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入和輸出相關(guān)聯(lián)。
[0026]在一些實(shí)施例中，圖1中描述的系統(tǒng)100的各種組件都可以在計(jì)算機(jī)系統(tǒng)環(huán)境中實(shí)現(xiàn)。圖2是根據(jù)一些實(shí)施例可以適用于實(shí)現(xiàn)系統(tǒng)100的一些部分的計(jì)算機(jī)系統(tǒng)200的示意圖。在一個(gè)實(shí)施例中，系統(tǒng)200包含計(jì)算設(shè)備208和一個(gè)或更多個(gè)附屬輸入/輸出設(shè)備，所述輸入/輸出設(shè)備包含具有屏幕204的顯示器202、一個(gè)或更多個(gè)揚(yáng)聲器206、鍵盤210、一個(gè)或更多個(gè)其它I/O設(shè)備212以及鼠標(biāo)214。其它I/O設(shè)備212可以包含觸摸屏、聲控輸入設(shè)備、軌跡球以及允許系統(tǒng)200接收來自使用者的輸入的任何其它設(shè)備。
[0027]計(jì)算設(shè)備208包含系統(tǒng)硬件220和存儲(chǔ)器230，該存儲(chǔ)器230可以被實(shí)現(xiàn)為隨機(jī)存取存儲(chǔ)器和/或只讀存儲(chǔ)器。文件存儲(chǔ)裝置280可以可通信地耦合到計(jì)算設(shè)備208。文件存儲(chǔ)裝置280可以被內(nèi)置于計(jì)算設(shè)備208中，例如一個(gè)或更多個(gè)硬盤驅(qū)動(dòng)器、⑶-ROM驅(qū)動(dòng)器、DVD-ROM驅(qū)動(dòng)器或其他類型的存儲(chǔ)設(shè)備。文件存儲(chǔ)裝置280也可以外置于計(jì)算機(jī)208，例如一個(gè)或更多個(gè)外置硬盤驅(qū)動(dòng)器、附連網(wǎng)絡(luò)的存儲(chǔ)設(shè)備或獨(dú)立的存儲(chǔ)網(wǎng)絡(luò)。
[0028]系統(tǒng)硬件220可以包含一個(gè)或更多個(gè)處理器222、一個(gè)或更多個(gè)圖形處理器224、網(wǎng)絡(luò)接口 226以及總線結(jié)構(gòu)228。此處所用的術(shù)語“處理器”的意思是任何類型的計(jì)算元件，例如但不限于微處理器、微控制器、復(fù)雜指令集計(jì)算(CISI)微處理器、精簡(jiǎn)指令集(RISC)微處理器、超長(zhǎng)指令字(VLIW)微處理器或者任何其他類型的處理器或處理電路。
[0029]圖形處理器224的功能可以用作管理圖形和/或視頻操作的輔助處理器。圖形處理器224可以被集成到計(jì)算系統(tǒng)200的主板上或者可以經(jīng)由擴(kuò)展槽耦合到主板上。[0030]在一個(gè)實(shí)施例中，網(wǎng)絡(luò)接口 226可以是有線接口例如以太網(wǎng)接口(參見例如Institute of Electrical and Electronics Engineers/IEEE802.3-2002)或者無線接口例如 IEEE802.lla, b 或 g-兼容接口(參見例如 IEEE Standard for I T-Te lecommuni cat ionsand information exchange between systems LAN/MAN—Part I1:ffireless LAN MediumAccess Control(MAC)and Physical Layer(PHY)specifications Amendments::FurtherHigher Data Rate Extension in the2.4GHz Band, 802.11G-2003)。無線接口的另一個(gè)不例可以是通用分組無線電服務(wù)技術(shù)(GPRS)接口(參見例如Guidelines on GPRS HandsetRequirements, Global System for Mobile Communi cat ions/GSM Association, Ver.3.0.1,December2002)o
[0031]總線結(jié)構(gòu)228連接系統(tǒng)硬件228的各種組件。在一個(gè)實(shí)施例中，總線結(jié)構(gòu)228可以是若干類型的總線結(jié)構(gòu)中的一個(gè)或更多個(gè)，其包含存儲(chǔ)器總線、外圍總線或外部總線和/或使用任何種類的可用總線架構(gòu)的本地總線，所述總線架構(gòu)包括但不限于11位總線、工業(yè)標(biāo)準(zhǔn)架構(gòu)(ISA)、微通道架構(gòu)(MSA)、擴(kuò)展工業(yè)標(biāo)準(zhǔn)架構(gòu)(EISA)、智能驅(qū)動(dòng)電子設(shè)備(IDE)、VESA本地總線(VLB)、外圍組件互連(PCI)、通用串行總線(USB)、高級(jí)圖形端口( AGP)、個(gè)人計(jì)算機(jī)存儲(chǔ)卡國(guó)際協(xié)會(huì)總線(PCMCIA)以及小型計(jì)算機(jī)系統(tǒng)接口(SCSI)。
[0032]存儲(chǔ)器230可以包含用于管理計(jì)算設(shè)備208的操作的操作系統(tǒng)240。在一個(gè)實(shí)施例中，操作系統(tǒng)240包含向系統(tǒng)硬件220提供接口的硬件接口模塊254。此外，操作系統(tǒng)240可以包含管理計(jì)算設(shè)備208的操作 中使用的文件的文件系統(tǒng)250以及管理在計(jì)算設(shè)備208上執(zhí)行的過程的過程控制子系統(tǒng)252。
[0033]操作系統(tǒng)240可以包含(或管理)一個(gè)或更多個(gè)通信接口，所述通信接口可以結(jié)合系統(tǒng)硬件220進(jìn)行操作以收發(fā)來自遠(yuǎn)程來源的數(shù)據(jù)包和/或數(shù)據(jù)流。操作系統(tǒng)240可以進(jìn)一步包含系統(tǒng)調(diào)用接口模塊242，該系統(tǒng)調(diào)用接口模塊在操作系統(tǒng)240與駐留在存儲(chǔ)器130中的一個(gè)或更多個(gè)應(yīng)用模塊之間提供接口。操作系統(tǒng)240可以具體化為例如Windows?品牌操作系統(tǒng)或UNIX操作系統(tǒng)或其任何衍生品(如Linux、Solaris等)或者其它操作系統(tǒng)。
[0034]如上所述，在一些實(shí)施例中，系統(tǒng)100的各種應(yīng)用程序可以被實(shí)現(xiàn)為包括被編碼到有形計(jì)算機(jī)可讀介質(zhì)如存儲(chǔ)器230中的邏輯指令，所述邏輯指令在被處理器222執(zhí)行時(shí)促使處理器222實(shí)現(xiàn)操作。因此，在一些實(shí)施例中，存儲(chǔ)器230可以包含一個(gè)或更多個(gè)行為屬性輸入應(yīng)用程序120、行為輸入及分類器相關(guān)器應(yīng)用程序125、行為輸入及分類數(shù)據(jù)存儲(chǔ)裝置130、儲(chǔ)存器計(jì)算參數(shù)數(shù)據(jù)存儲(chǔ)裝置140、行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145、行為模型應(yīng)用程序165、異常行為分類器應(yīng)用程序170以及行為警報(bào)發(fā)布器應(yīng)用程序175。
[0035]已經(jīng)描述了系統(tǒng)100的結(jié)構(gòu)化組件，下面將參照?qǐng)D3描述系統(tǒng)100的操作，該圖是說明根據(jù)一些實(shí)施例用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的方法中的操作的流程圖。
[0036]參考圖3，在操作310中生成行為訓(xùn)練集。參考圖1A，在操作的訓(xùn)練模式中，當(dāng)系統(tǒng)Iio在穩(wěn)定狀態(tài)中和/或在已知條件下操作時(shí)，行為屬性輸入應(yīng)用程序120接收進(jìn)入網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的數(shù)據(jù)輸入和來自網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的數(shù)據(jù)輸出。例如，在一些實(shí)施例中，用于網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入訓(xùn)練序列可以被存儲(chǔ)在行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145中。行為屬性輸入應(yīng)用程序120可以向一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110提供輸入訓(xùn)練集并且可以響應(yīng)于所述輸入接收由一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110生成的數(shù)據(jù)輸出。行為屬性輸入應(yīng)用程序120可以將接收到的輸出傳遞給行為輸入及分類器相關(guān)器應(yīng)用程序125。
[0037]行為輸入及分類器相關(guān)器應(yīng)用程序125接收由一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110生成的輸出，將由一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110生成的輸出與提供給一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入相關(guān)聯(lián)，并且將輸出和關(guān)聯(lián)關(guān)系存儲(chǔ)在行為輸入及分類數(shù)據(jù)存儲(chǔ)裝置130中。此外，行為輸入及分類器相關(guān)器應(yīng)用程序125接收可以由外部來源為一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110提供的正常行為分類輸入115，并且使用正常行為分類輸入115對(duì)來自一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸出進(jìn)行分類。
[0038]行為訓(xùn)練器應(yīng)用程序135允許系統(tǒng)的使用者訪問行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145中的訓(xùn)練集以及來自儲(chǔ)存器計(jì)算參數(shù)數(shù)據(jù)庫的相關(guān)參數(shù)。此外，行為訓(xùn)練器應(yīng)用程序135可以將一個(gè)或更多個(gè)儲(chǔ)存器計(jì)算參數(shù)應(yīng)用于訓(xùn)練集以調(diào)試訓(xùn)練集使其達(dá)到一定水平的靈敏度。在一些實(shí)施例中，如下所述的六個(gè)參數(shù)可用于調(diào)試:
[0039]儲(chǔ)存器大小:基于統(tǒng)計(jì)學(xué)習(xí)理論限定儲(chǔ)存器計(jì)算網(wǎng)絡(luò)內(nèi)部的節(jié)點(diǎn)數(shù)量的參數(shù)，其影響建模能力。
[0040]輸入定標(biāo):對(duì)輸入屬性進(jìn)行加權(quán)的參數(shù)，其直接影響儲(chǔ)存器動(dòng)態(tài)，該參數(shù)有助于規(guī)范儲(chǔ)存器動(dòng)態(tài)使其同等重要地處理小輸入振幅和大輸入振幅，并且確定儲(chǔ)存器的非線性程度。
[0041]輸出反饋定標(biāo):限定用于穩(wěn)定控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的反饋量的參數(shù)，其輔助識(shí)別振蕩行為模式的程度，并且確定經(jīng)訓(xùn)練的網(wǎng)絡(luò)化嵌入式系統(tǒng)控制器120的模式生成組件的獨(dú)立程度。
[0042]儲(chǔ)存器權(quán)重矩陣譜半徑:控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的脈沖響應(yīng)和交互的輸入值范圍的參數(shù)，其輔助行為靈敏度測(cè)定并且依靠有問題的任務(wù)是否要求長(zhǎng)存儲(chǔ)或短存儲(chǔ)來允許過去的輸入影響未來的輸出。
[0043]耗散率:控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)對(duì)噪聲行為、時(shí)間扭曲行為模式和/或非常慢的動(dòng)態(tài)系統(tǒng)的靈敏度的參數(shù)。
[0044]噪聲定標(biāo):控制儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的噪聲積分器的重要性的參數(shù)，其影響行為模式的穩(wěn)定/混亂方面的分類靈敏度。
[0045]因此，在圖1A所描述的學(xué)習(xí)/訓(xùn)練配置中，系統(tǒng)100在作為穩(wěn)定和/或正常操作條件的條件下構(gòu)造一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入和相關(guān)輸出的曲線并且可以根據(jù)分類方案將輸出分類。結(jié)果被存儲(chǔ)在行為訓(xùn)練集數(shù)據(jù)存儲(chǔ)裝置145中。
[0046]再次參考圖3，當(dāng)系統(tǒng)100如圖1B所示處于監(jiān)控配置下時(shí)，由系統(tǒng)100實(shí)施剩余的操作。在操作315中，系統(tǒng)100在網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的實(shí)時(shí)操作期間監(jiān)控一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入和輸出。例如，如圖1B所描述，在一些實(shí)施例中行為屬性輸入應(yīng)用程序120監(jiān)控一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110以檢索控制系統(tǒng)110的輸入和由控制系統(tǒng)110生成的輸出。在其他實(shí)施例中，行為屬性輸入應(yīng)用程序120主動(dòng)請(qǐng)求來自一個(gè)或更多個(gè)網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110的輸入和輸出。
[0047]由行為屬性輸入應(yīng)用程序120收集的數(shù)據(jù)被轉(zhuǎn)發(fā)給行為模型應(yīng)用程序165。在一些實(shí)施例中，行為模型應(yīng)用程序165可以被實(shí)現(xiàn)為經(jīng)訓(xùn)練和部署的儲(chǔ)存器計(jì)算網(wǎng)絡(luò)。行為模型應(yīng)用程序165被行為訓(xùn)練器應(yīng)用程序135訓(xùn)練。因此，行為模型應(yīng)用程序165將使其儲(chǔ)存器計(jì)算參數(shù)和儲(chǔ)存器計(jì)算網(wǎng)絡(luò)矩陣被配置。行為模型應(yīng)用程序165監(jiān)控行為屬性輸入并基于該配置和所學(xué)習(xí)的訓(xùn)練集來輸出分類。
[0048]由行為模型應(yīng)用程序165生成的輸出被轉(zhuǎn)發(fā)給異常行為分類器應(yīng)用程序170，該異常行為分類器應(yīng)用程序170解釋行為模型應(yīng)用程序165的結(jié)果并且確定結(jié)果是否異常。例如，在一些實(shí)施例中，在實(shí)時(shí)操作中從網(wǎng)絡(luò)化嵌入式控制系統(tǒng)110收集的一個(gè)或更多個(gè)輸出與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出進(jìn)行比較(操作320)，并且當(dāng)實(shí)時(shí)操作中從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出與訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出之間的偏差超過閾值時(shí)被表征為異常(操作325，330)。該閾值可以是固定值、與輸出的量值成正比的值或者可以是動(dòng)態(tài)的。在一些實(shí)施例中，異常行為分類應(yīng)用程序170也可以確定異常的嚴(yán)重程度(操作335)。
[0049]由異常行為分類應(yīng)用程序170生成的輸出被轉(zhuǎn)發(fā)給行為警報(bào)發(fā)布器應(yīng)用程序175，以便警報(bào)能夠生成并且發(fā)布(操作340)給一個(gè)或更多個(gè)外部應(yīng)用程序180。同樣，結(jié)果也可以轉(zhuǎn)發(fā)給行為輸入及分類器相關(guān)器應(yīng)用程序125進(jìn)行處理。在一些實(shí)施例中，行為輸入及分類器相關(guān)器應(yīng)用程序125將在實(shí)時(shí)操作中從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出存儲(chǔ)在存儲(chǔ)器中(操作345)并且使用存儲(chǔ)器中的在實(shí)時(shí)操作中從嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出來更新行為訓(xùn)練集(操作350)，例如通過更新行為輸入及分類數(shù)據(jù)存儲(chǔ)裝置130來完成。
[0050]雖然圖1A和圖1B中描述的實(shí)施例說明了單一行為模型應(yīng)用程序165和單一異常行為分類應(yīng)用程序170，但本領(lǐng)域技術(shù)人員將認(rèn)識(shí)到系統(tǒng)100可以包含多個(gè)行為模型應(yīng)用程序165和行為分類應(yīng)用程序170以適用于分層式行為異常檢測(cè)系統(tǒng)。
[0051]在前面的討論中，已經(jīng)描述了示例性過程的【具體實(shí)施方式】，然而應(yīng)當(dāng)理解的是，在可替換實(shí)施方式中，某些操作不需要按照以上所描述的順序執(zhí)行。在可替換實(shí)施例中，根據(jù)具體情況一些操作可以被修改、以不同的順序執(zhí)行或者可以完全省略。此外，在各種替代實(shí)施方式中，所描述的操作可以由計(jì)算機(jī)、控制器、處理器、可編程設(shè)備、固件或任何其它合適的設(shè)備來實(shí)現(xiàn)，并且可以基于存儲(chǔ)在一個(gè)或更多個(gè)計(jì)算機(jī)可讀介質(zhì)上或以其他方式存儲(chǔ)或編程到此類設(shè)備中(例如包括向此類設(shè)備實(shí)時(shí)傳輸計(jì)算機(jī)可讀指令)的指令。在軟件的背景下，上述操作可以代表計(jì)算機(jī)指令，所述計(jì)算機(jī)指令在被一個(gè)或更多個(gè)處理器執(zhí)行時(shí)完成所述操作。在使用計(jì)算機(jī)可讀介質(zhì)的事件中，該計(jì)算機(jī)可讀介質(zhì)可以是任何可用介質(zhì)，其能夠被設(shè)備訪問以實(shí)施存儲(chǔ)在其上的指令。
[0052]雖然已經(jīng)描述了各種實(shí)施例，但本領(lǐng)域技術(shù)人員將認(rèn)識(shí)到在不偏離本發(fā)明的情況下可以做出各種修改或變體。這些示例說明各種實(shí)施例而不旨在限制本發(fā)明。因此，說明書和權(quán)利要求應(yīng)該僅在考慮有關(guān)現(xiàn)有技術(shù)的情況下以必要的限制進(jìn)行自由解釋。
【權(quán)利要求】
1.一種用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的基于計(jì)算機(jī)的方法，其包含: 生成用于所述嵌入式控制系統(tǒng)的行為訓(xùn)練集，其中所述行為訓(xùn)練集在訓(xùn)練過程中將所述嵌入式控制系統(tǒng)的輸入與來自所述嵌入式控制系統(tǒng)的輸出相關(guān)聯(lián)，以限定所述嵌入式控制系統(tǒng)的打?yàn)橹讣y； 在所述嵌入式控制系統(tǒng)的操作期間，實(shí)時(shí)監(jiān)控所述嵌入式控制系統(tǒng)的輸入和來自所述嵌入式控制系統(tǒng)的輸出；以及 當(dāng)實(shí)時(shí)操作中進(jìn)入所述嵌入式控制系統(tǒng)的輸入或者從所述嵌入式控制系統(tǒng)收集的輸出中的一個(gè)或更多個(gè)表現(xiàn)為異常時(shí)生成警報(bào)。
2.根據(jù)權(quán)利要求1所述的基于計(jì)算機(jī)的方法，其中生成用于所述嵌入式控制系統(tǒng)的行為訓(xùn)練集包含使用至少一個(gè)參數(shù)調(diào)試所述行為訓(xùn)練集。
3.根據(jù)權(quán)利要求2所述的基于計(jì)算機(jī)的方法，其中所述至少一個(gè)參數(shù)選自一組參數(shù)，所述一組參數(shù)包含: 儲(chǔ)存器大小參數(shù)，其限定儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中節(jié)點(diǎn)的數(shù)量； 輸入定標(biāo)參數(shù)，其對(duì)所述嵌入式控制系統(tǒng)的輸入屬性進(jìn)行加權(quán)； 輸出反饋定標(biāo)參數(shù)，其限定用于所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的反饋量； 儲(chǔ)存器權(quán) 重矩陣參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)脈沖響應(yīng)； 耗散率參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中對(duì)噪聲行為和時(shí)間扭曲行為的靈敏度；以及 噪聲定標(biāo)參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)噪聲積分器。
4.根據(jù)權(quán)利要求1所述的基于計(jì)算機(jī)的方法，其中當(dāng)實(shí)時(shí)操作中從所述嵌入式控制系統(tǒng)收集的一個(gè)或更多個(gè)輸出表現(xiàn)為異常時(shí)生成警報(bào)包含: 將實(shí)時(shí)操作中進(jìn)入所述嵌入式控制系統(tǒng)的輸入或從所述嵌入式控制系統(tǒng)收集的輸出中的所述一個(gè)或更多個(gè)與所述訓(xùn)練過程中收集的一個(gè)或更多個(gè)輸出進(jìn)行比較；以及 當(dāng)實(shí)時(shí)操作中從所述嵌入式控制系統(tǒng)收集的所述一個(gè)或更多個(gè)輸出與所述訓(xùn)練過程中收集的所述一個(gè)或更多個(gè)輸出之間的偏差超過閾值時(shí)，將實(shí)時(shí)操作中進(jìn)入所述嵌入式控制系統(tǒng)的輸入或從所述嵌入式控制系統(tǒng)收集的輸出中的所述一個(gè)或更多個(gè)表征為異常。
5.根據(jù)權(quán)利要求4所述的基于計(jì)算機(jī)的方法，其進(jìn)一步包含: 確定所述異常的嚴(yán)重程度。
6.根據(jù)權(quán)利要求1所述的基于計(jì)算機(jī)的方法，其進(jìn)一步包含: 向耦合到所述嵌入式控制系統(tǒng)的一個(gè)或更多個(gè)應(yīng)用程序發(fā)布所述警報(bào)。
7.根據(jù)權(quán)利要求6所述的基于計(jì)算機(jī)的方法，其進(jìn)一步包含: 將實(shí)時(shí)操作中進(jìn)入所述嵌入式控制系統(tǒng)的輸入或從所述嵌入式控制系統(tǒng)收集的輸出中的所述一個(gè)或更多個(gè)存儲(chǔ)在存儲(chǔ)器中；以及 使用存儲(chǔ)器中的實(shí)時(shí)操作中進(jìn)入所述嵌入式控制系統(tǒng)的輸入或從所述嵌入式控制系統(tǒng)收集的輸出中的所述一個(gè)或更多個(gè)更新所述行為訓(xùn)練集。
8.根據(jù)權(quán)利要求1所述的基于計(jì)算機(jī)的方法，其中生成用于所述嵌入式控制系統(tǒng)的行為訓(xùn)練集包含使用選自一組參數(shù)的至少兩個(gè)參數(shù)調(diào)試所述行為訓(xùn)練集，所述一組參數(shù)包含: 儲(chǔ)存器大小參數(shù)，其限定儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中節(jié)點(diǎn)的數(shù)量；輸入定標(biāo)參數(shù)，其對(duì)所述嵌入式控制系統(tǒng)的輸入屬性進(jìn)行加權(quán)； 輸出反饋定標(biāo)參數(shù)，其限定用于所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)的反饋量； 儲(chǔ)存器權(quán)重矩陣參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)脈沖響應(yīng)； 耗散率參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中對(duì)噪聲行為和時(shí)間扭曲行為的靈敏度；以及 噪聲定標(biāo)參數(shù)，其控制所述儲(chǔ)存器計(jì)算網(wǎng)絡(luò)中的一個(gè)或更多個(gè)噪聲積分器。
9.一種用于實(shí)時(shí)嵌入式控制系統(tǒng)行為監(jiān)控和異常檢測(cè)的基于計(jì)算機(jī)的系統(tǒng)，其包含: 處理器；以及 存儲(chǔ)在耦合到所述處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被所述處理器執(zhí)行時(shí)將所述處理器配置為執(zhí)行如權(quán)利要求1至8中任一項(xiàng)所述的方法。
10.一種計(jì)算機(jī)程序產(chǎn)品，其包含存儲(chǔ)在耦合到處理器的有形計(jì)算機(jī)可讀介質(zhì)中的邏輯指令，所述邏輯指令在被所述處理器執(zhí)行時(shí)將所述處理器配置為執(zhí)行如權(quán)利要求1至8中任一項(xiàng)所述的方法。`
【文檔編號(hào)】G05B23/02GK103777623SQ201310495006
【公開日】2014年5月7日 申請(qǐng)日期:2013年10月21日 優(yōu)先權(quán)日:2012年10月22日
【發(fā)明者】W·李, M·M·孔特, A·阿亞加里, R·N·布萊爾 申請(qǐng)人:波音公司