本發(fā)明屬于智能信號處理,具體而言,涉及利用長短時記憶網(wǎng)絡對信號特征進行分類,可用于智能工廠中入侵設備的檢出。
背景技術(shù):
1、隨著網(wǎng)絡技術(shù)的發(fā)展和智能硬件制造成本的降低,智能制造設備如智能機械臂、網(wǎng)絡攝像頭、分布式自動控制器、人工智能質(zhì)量檢測設備等被廣泛地應用于智能工廠中,以提高管理效率和生產(chǎn)質(zhì)量、降低物料成本和人力開銷。
2、然而,智能設備的引入也為傳統(tǒng)制造企業(yè)帶來了新的挑戰(zhàn)。例如,被秘密放置在智能工廠中的入侵設備能夠隱蔽地收集企業(yè)的機密數(shù)據(jù),造成企業(yè)生產(chǎn)計劃和技術(shù)的泄露;被員工意外帶入生產(chǎn)場所的手機(此時被視為入侵設備)等設備,如不能被及時地檢出,可能干擾產(chǎn)線上的智能制造設備,造成經(jīng)濟損失。因此,當前智能工廠對入侵設備的檢測存在迫切的需求。
3、由于入侵設備主要通過收、發(fā)電磁波的方式對正常智能制造設備產(chǎn)生影響,針對入侵設備和正常智能制造設備的區(qū)分問題,其關鍵是區(qū)分兩類設備所發(fā)射信號的特征。由于智能制造設備的生產(chǎn)廠家考慮到其設備的安全和知識產(chǎn)權(quán)因素,通常不會公布其生產(chǎn)的設備所發(fā)射的信號特征,故已有的方法主要采用人工智能技術(shù),通過決策樹、k均值等方法對信號特征進行分類,以達到檢出入侵設備的目的。然而,隨著技術(shù)對抗的發(fā)展,一些入侵設備逐漸開始采用長連接、小數(shù)據(jù)量的方式發(fā)射信號,避免短時間、大流量集中上傳其采集到的信息,這使得其信號特征在短時間內(nèi)與正常智能制造設備十分相似,已有方法難以檢出此類設備。為了實現(xiàn)此類設備的檢出,必須在一段時間內(nèi)持續(xù)分析其信號特征,即采用有記憶性的檢測方法。
4、綜上所述,引入長短時記憶網(wǎng)絡,能夠解決當前智能工廠入侵設備檢測方法遇到的主要難題。通過發(fā)展此項技術(shù),能夠有效地彌補傳統(tǒng)方法存在的缺點,捕捉入侵設備的特征,實現(xiàn)智能工廠入侵設備的高效檢測。
5、需要說明的是,在上述背景技術(shù)部分公開的信息僅用于加強對本公開的背景的理解,因此可以包括不構(gòu)成對本領域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。
技術(shù)實現(xiàn)思路
1、本發(fā)明的目的在于針對現(xiàn)有智能工廠非法入侵設備檢測方法存在的問題,提出一種基于長短時記憶網(wǎng)絡的智能工廠入侵設備檢測方法。通過長短時記憶網(wǎng)絡能夠理解輸入序列前后時間關系的特性,提取智能工廠中設備所發(fā)射信號的時間特征;進而,利用此時間特征,可以有效提高智能工廠入侵設備檢測方法的正確率;最后,通過對入侵設備的特征進行聚類,能夠識別智能工廠內(nèi)的入侵設備數(shù)量。綜上所述,本發(fā)明所提出的方法相較于現(xiàn)有的智能工廠入侵設備檢測方法,其多個方面的性能都實現(xiàn)了提升,從而為智能工廠的安全運行提供了技術(shù)支撐。
2、本發(fā)明的目的是通過以下技術(shù)方案來實現(xiàn)的:一種基于長短時記憶網(wǎng)絡的智能工廠入侵設備檢測方法,包含以下步驟:
3、(1)信號的時序特征構(gòu)建:該步驟在時間和特征兩個維度上進行,時間維度包含從開始觀測時間t=1到結(jié)束觀測時間t=t的時間段,特征維度包含每個時間點所提取的若干不同特征;對于任一時間點t,由該時間點的采樣信號所提取的特征表達為:
4、xi,t=[xi,t,1,xi,t,2,…,xi,t,]]t
5、其中,i=1,2,…,i表達設備的編號,在訓練過程中作為數(shù)據(jù)樣本的標簽,i表達設備的總數(shù),xi,t,n,n=1,2,…,n表達在時間點t提取的編號為i的設備發(fā)射的射頻信號的第n個特征;編號為i的設備在觀測時間內(nèi)發(fā)射的射頻信號的總體特征表達為:
6、
7、(2)基于長短時記憶網(wǎng)絡的信號語義空間建模:該步驟涉及基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡的正向傳播及其訓練;所述基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡的正向傳播計算過程如下:
8、fi,t=sigmoid(wf·cat(ri,t-1,xi,t))
9、pi,t=sigmoid(wp·cat(ri,t-1,xi,t))
10、qi,t=tanh(wq·cat(ri,t-1,xi,t))
11、si,t=fi,t⊙si,t-1+pi,t⊙qi,t
12、oi,t=sigmoid(wo·cat(ri,t-1,xi,t))
13、ri,t=oi,t⊙tanh(si,t)
14、每次計算時,需由t=1始,計算至t=t止,即由fi,1開始計算,并最終得到ri,t;其中,除ri,t外,fi,t、pi,t、qi,t、si,t、oi,t、ri,t,t=1,2,...,t表達計算步驟中的中間變量,wf、wp、wq、wo表達可訓練參數(shù),cat(·,·)表達將兩個向量首尾相接的操作,sigmoid(·)表達西格蒙德函數(shù),tanh(·)表達雙曲正切函數(shù),·表達矩陣或向量的乘積,⊙表達哈達瑪積,ri,0,si,0分別表達ri,t,si,t的初值,在訓練過程中通過隨機的方式選?。粚⒄騻鞑ビ嬎氵^程表達為:
15、ri,t=l(xi;wf,wp,wq,wo)
16、其中,l(·)表達由以上公式說明的計算過程;通過該正向傳播計算過程,將t=1至t=t時間段內(nèi),編號為i的設備發(fā)射的射頻信號的總體特征xi計算為其在信號語義空間中的表征ri,t;
17、訓練過程選擇三個損失函數(shù),每次,將一個用于訓練的數(shù)據(jù)樣本經(jīng)上式所示過程計算為其表征,然后計算損失函數(shù)的值,最后進行反向傳播,更新可訓練參數(shù)wf、wp、wq、wo;所選擇的損失函數(shù)表達為:
18、
19、其中,xi,m,m=1,2,...,m表達來自編號為i的設備的第m條用于訓練的數(shù)據(jù)樣本,m為來自該設備的訓練樣本的總數(shù),ri,m,t為xi,m的表征,ri,m,t=l(xi,m;wf,wp,wq,wo),ci表達所有來自編號為i的設備的數(shù)據(jù)樣本的表征的中心向量,softmax(·)表達softmax函數(shù),abs(·)表達取絕對值,reverse(·)表達一個解碼神經(jīng)網(wǎng)絡,classify(·)表達一個分類神經(jīng)網(wǎng)絡;
20、引入互補點機制,將編號為i的設備的互補點定義為pi,pi滿足:
21、
22、其中,d(·,·)為距離度量函數(shù);基于此機制,引入新的損失函數(shù)表達為:
23、
24、其中,ri為可學習參數(shù);
25、(3)基于信號統(tǒng)計特征的語義空間分割:采用標準差閾值分割方法,將語義空間表達為:
26、
27、其中,vi表達編號為i的設備對應的語義空間,弘i表達用于訓練的數(shù)據(jù)樣本中所有屬于該語義空間的向量ri,m,t的均值,φi表達分割閾值;對于語義空間vi,該分割閾值的確定方法為,對于用于訓練的數(shù)據(jù)樣本中每一個屬于該語義空間的向量ri,m,t,計算下式:
28、di,m=(ri,m,t-μi)t(ri,m,t-μi)
29、然后,計算di,m,m=1,2,...,m的標準差σi,再將所有di,m的值由大至小排列,取第一個小于三倍σi的值作為語義空間vi的分割閾值φi;由此,整個語義空間被明確地分割為i+1部分,其中,前i部分vi,i=1,2,...,i對應訓練集中已知類型的設備所發(fā)出信號的語義空間,最后一部分被定義為:
30、vu=rd-v1-v2-…-vi
31、其中,vu表達對應未知入侵設備所發(fā)出信號的語義空間,rd表達d維的實向量空間,d表達ri,m,t的維度;僅在該式中,符號“[·]-[·]”表示該符號左側(cè)的語義空間除去所有來自該符號右側(cè)的語義空間中的元素;
32、(4)入侵設備識別:當采集到一段信號并按照步驟(1)計算其特征xs后,將其特征輸入訓練完成的基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡并得到其表征rs,t,若rs,t不屬于語義空間vu,則判斷其為已知設備,通過識別出的設備編號判斷其為正常智能制造設備或已知入侵設備;否則,判斷其為未知入侵設備。
33、進一步地,基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡的不同損失函數(shù)的作用為:lcenter使得來自同一臺設備的射頻信號表征聚集在一起,保證了語義空間的稀疏性;lclassify確?;陂L短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡擁有足夠的分類能力;lreconstruction則強化了基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡的表征能力。
34、進一步地,距離度量函數(shù)d(·,·)公式為:
35、
36、其中,z為超參數(shù)。
37、進一步地,通過步驟(2)訓練所得的基于長短時記憶網(wǎng)絡的神經(jīng)網(wǎng)絡,能夠?qū)⑤斎離i,m投影至維度與其表征向量ri,m,t維度相同的語義空間內(nèi),在該語義空間內(nèi),來自相同編號設備的輸入對應的表征向量聚集在一起,來自不同編號設備的輸入對應的表征向量之間相互分離。
38、進一步地,步驟(4)中,若判斷當前存在多段信號來自未知入侵設備,通過k-means聚類算法對其表征rs,t進行聚類,然后判斷未知入侵設備數(shù)等于k-means聚類算法所得的類別數(shù)。
39、本發(fā)明與現(xiàn)有技術(shù)相比具有以下優(yōu)點:
40、(1)本發(fā)明基于長短時記憶網(wǎng)絡,能夠分析不同時刻智能工廠內(nèi)設備所發(fā)射的信號的特征之間的時序關系,并從該時序關系中提取有關信號特征的更深層次的信息,進一步地,能夠提高非法入侵設備的檢出效率。
41、(2)本發(fā)明基于特定的損失函數(shù)進行訓練,使得神經(jīng)網(wǎng)絡的特征空間具有較好的稀疏性。利用該稀疏性,可以對識別出的非法入侵設備的特征進行聚類,從而實現(xiàn)智能工廠內(nèi)非法入侵設備數(shù)量的識別。這對實際應用中查找非法入侵設備、排除非法入侵設備有著重要意義。