本發(fā)明涉及一種數(shù)據(jù)包下載管理系統(tǒng)及方法,特別是涉及一種適用于回溯網(wǎng)絡(luò)分析的數(shù)據(jù)包下載管理系統(tǒng)及方法。
背景技術(shù):
在基于回溯網(wǎng)絡(luò)分析中,一般情況下,是將網(wǎng)絡(luò)數(shù)據(jù)包全部存儲(chǔ)于服務(wù)器中,當(dāng)有對(duì)數(shù)據(jù)包的詳細(xì)分析時(shí),需要將服務(wù)器的數(shù)據(jù)包下載到本地以作為分析和取證。
傳統(tǒng)的下載方式為將數(shù)據(jù)下載到本地存儲(chǔ)為某個(gè)文件(如迅雷等下載工具),導(dǎo)致一次下載的數(shù)據(jù)包文件太大,但是網(wǎng)絡(luò)數(shù)據(jù)包不能采用這種方式,因?yàn)楫?dāng)下載數(shù)據(jù)包的總量太大時(shí),數(shù)據(jù)包分析工具分析一個(gè)太大的文件效率極低,甚至有些分析工具不能分析超過一定大小的文件(大部分?jǐn)?shù)據(jù)包分析工具,分析時(shí)候需要將數(shù)據(jù)包加載到內(nèi)存,但是由于內(nèi)存限制,所以一次分析的數(shù)據(jù)包的大小是有限的)。
技術(shù)實(shí)現(xiàn)要素:
本發(fā)明要解決的技術(shù)問題是提供一種下載的數(shù)據(jù)包時(shí)間跨度較大,方便根據(jù)時(shí)間段,挨個(gè)進(jìn)行分析的數(shù)據(jù)包下載管理系統(tǒng)及方法。
本發(fā)明采用的技術(shù)方案如下:一種數(shù)據(jù)包下載管理系統(tǒng),包括,
文件存儲(chǔ)模式判斷模塊,判斷要下載的數(shù)據(jù)包的文件存儲(chǔ)模式是否為多文件存儲(chǔ)模式;
分割模式判斷模塊,判斷文件存儲(chǔ)的分割模式為時(shí)間分割模式,還是大小分割模式,還是時(shí)間及大小的綜合分割模式;
數(shù)據(jù)包分割模塊,對(duì)跨出分割時(shí)間和/或當(dāng)前數(shù)據(jù)包大小加上新建文件大小大于分割大小閾值的數(shù)據(jù)包進(jìn)行時(shí)間分割和/或大小分割存儲(chǔ);
文件夾創(chuàng)建模塊,針對(duì)時(shí)間分割模式,創(chuàng)建要分割存儲(chǔ)的數(shù)據(jù)包的新文件夾;
文件創(chuàng)建模塊,針對(duì)大小分割模式,創(chuàng)建要分割存儲(chǔ)的數(shù)據(jù)包的新文件。
如果下載的數(shù)據(jù)包時(shí)間跨度較大的時(shí)候,往往分析時(shí),需要根據(jù)時(shí)間段,挨個(gè)進(jìn)行分析。因此下載數(shù)據(jù)包時(shí)不按時(shí)間和大小進(jìn)行分割并存儲(chǔ)的策略會(huì)造成分析和取證特別困難。本發(fā)明方案提出多文件存儲(chǔ)模式,對(duì)下載的數(shù)據(jù)包時(shí)間跨度較大和數(shù)據(jù)包本身大小較大的數(shù)據(jù)包進(jìn)行分割存儲(chǔ),能夠有效提高數(shù)據(jù)包的本地分析取證效率。
還包括文件存儲(chǔ)選擇模塊,對(duì)文件存儲(chǔ)模式進(jìn)行選擇;所述文件存儲(chǔ)模式包括單文件存儲(chǔ)模式和多文件存儲(chǔ)模式。
可以設(shè)置默認(rèn)文件存儲(chǔ)模式,也可以選擇在進(jìn)行文件下載存儲(chǔ)之前對(duì)文件存儲(chǔ)模式進(jìn)行選擇,方便用戶使用。
還包括分割方式選擇模塊,對(duì)存儲(chǔ)文件的分割模式進(jìn)行選擇,包括時(shí)間分割模式選擇單元和大小分割模式選擇單元。
可以設(shè)置默認(rèn)文件分割模式,也可以在對(duì)文件存儲(chǔ)之前進(jìn)行文件分割模式選擇,所述時(shí)間分割模式選擇單元和大小分割模式選擇單元可以選擇其一,也可以兩者均選中。
還包括分割大小閾值設(shè)置模塊,對(duì)要分割的大小閾值進(jìn)行設(shè)置。
用戶根據(jù)實(shí)際需求進(jìn)行大小閾值設(shè)置,例如該閾值可以為1MB,也可以為2MB,或者10MB。
還包括分割時(shí)間閾值設(shè)置模塊,對(duì)要分割的時(shí)間閾值進(jìn)行設(shè)置。
用戶根據(jù)實(shí)際需求進(jìn)行時(shí)間閾值設(shè)置,例如該時(shí)間閾值可以為幾秒,也可以為幾分鐘,幾小時(shí),幾天甚至幾周。
一種數(shù)據(jù)包下載管理方法,具體方法步驟為:
S1、判斷要下載的數(shù)據(jù)包的文件存儲(chǔ)模式是否為多文件存儲(chǔ)模式,如果是,則進(jìn)入下一步;如果否,則按照單文件存儲(chǔ)模式進(jìn)行文件下載存儲(chǔ);
S2、判斷文件存儲(chǔ)的分割模式是時(shí)間分割模式,還是大小分割模式,還是時(shí)間及大小的綜合分割模式;如果是時(shí)間分割模式則進(jìn)入S3;如果是大小分割模式,則進(jìn)入S4;如果是時(shí)間及大小的綜合分割模式則進(jìn)入S5;
S3、按照設(shè)定的時(shí)間分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件夾進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件夾中;
S4、按照設(shè)定的時(shí)大小分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件中;
S5、按照設(shè)定的綜合分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件夾和文件進(jìn)行處理,并將按時(shí)間分割后的數(shù)據(jù)包存入相應(yīng)的文件夾,按大小分割后的數(shù)據(jù)包存入相應(yīng)的文件中。
所述時(shí)間分割模式中,用戶根據(jù)自身需求設(shè)置分割時(shí)間閾值,按照設(shè)定的分割時(shí)間閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ),判斷當(dāng)前數(shù)據(jù)包是否已經(jīng)跨出分割時(shí)間,是則在文件目錄下新建分割時(shí)間文件夾,并設(shè)置該新建文件夾為存儲(chǔ)位置。
每個(gè)數(shù)據(jù)包都有且僅有一個(gè)時(shí)間戳,判斷數(shù)據(jù)包時(shí)間戳是否大于時(shí)間分割點(diǎn),如果達(dá)到則新建文件夾,并在新的文件夾中新建文件存儲(chǔ)該數(shù)據(jù)包。
所述大小分割模式中,用戶根據(jù)自身需求設(shè)置分割大小閾值,按照設(shè)定的分割大小閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ),判斷當(dāng)前數(shù)據(jù)包大小加上文件大小是否大于分割大小閾值,是則在存儲(chǔ)位置新建文件,并設(shè)置該新建文件為存儲(chǔ)位置。
每個(gè)數(shù)據(jù)包都有且固定的長(zhǎng)度,判斷數(shù)據(jù)包寫入的數(shù)據(jù)包文件大小是否大于文件大小分割點(diǎn),如果達(dá)到則新建文件存儲(chǔ)該數(shù)據(jù)包。
所述綜合分割模式中,用戶根據(jù)自身需求設(shè)置分割時(shí)間閾值和分割大小閾值,按照設(shè)定的分割時(shí)間閾值和分割大小閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ);判斷當(dāng)前數(shù)據(jù)包是否已經(jīng)跨出分割時(shí)間,是則在文件目錄下新建分割時(shí)間文件夾,并設(shè)置該新建文件夾為存儲(chǔ)位置,同時(shí)判斷當(dāng)前數(shù)據(jù)包大小加上文件大小是否大于分割大小閾值,是則在存儲(chǔ)位置新建文件,并設(shè)置該新建文件為存儲(chǔ)位置。
如果數(shù)據(jù)包的大小分割閾值為1MB,則被分割的一個(gè)數(shù)據(jù)包大小必然小于1MB,同一納秒內(nèi),一個(gè)數(shù)據(jù)包寫入線程,不可能寫兩個(gè)接近1MB的數(shù)據(jù)包文件。
與現(xiàn)有技術(shù)相比,本發(fā)明的有益效果是:能靈活的選擇支持下載數(shù)據(jù)包的分時(shí),分大小存儲(chǔ),提供高效率的數(shù)據(jù)包的本地分析取證,具體表現(xiàn)為:
1. 能根據(jù)數(shù)據(jù)包的時(shí)間戳,將數(shù)據(jù)包按照windows文件管理方案,文件夾,文件的形式管理起來;
2. 在對(duì)數(shù)據(jù)包進(jìn)行分析時(shí),能快速的根據(jù)分析時(shí)間提取找到相應(yīng)的數(shù)據(jù)包文件;
3.單文件,時(shí)間分割多文件,大小分割多文件,時(shí)間大小同時(shí)分割多文件都是動(dòng)態(tài)可選項(xiàng)。
附圖說明
圖1為本發(fā)明其中一實(shí)施例的原理示意圖。
具體實(shí)施方式
為了使本發(fā)明的目的、技術(shù)方案及優(yōu)點(diǎn)更加清楚明白,以下結(jié)合附圖及實(shí)施例,對(duì)本發(fā)明進(jìn)行進(jìn)一步詳細(xì)說明。應(yīng)當(dāng)理解,此處所描述的具體實(shí)施例僅用以解釋本發(fā)明,并不用于限定本發(fā)明。
本說明書(包括摘要和附圖)中公開的任一特征,除非特別敘述,均可被其他等效或者具有類似目的的替代特征加以替換。即,除非特別敘述,每個(gè)特征只是一系列等效或類似特征中的一個(gè)例子而已。
具體實(shí)施例1
一種數(shù)據(jù)包下載管理系統(tǒng),包括,
文件存儲(chǔ)模式判斷模塊,判斷要下載的數(shù)據(jù)包的文件存儲(chǔ)模式是否為多文件存儲(chǔ)模式;
分割模式判斷模塊,判斷文件存儲(chǔ)的分割模式為時(shí)間分割模式,還是大小分割模式,還是時(shí)間及大小的綜合分割模式;
數(shù)據(jù)包分割模塊,對(duì)跨出分割時(shí)間和/或當(dāng)前數(shù)據(jù)包大小加上新建文件大小大于分割大小閾值的數(shù)據(jù)包進(jìn)行時(shí)間分割和/或大小分割存儲(chǔ);
文件夾創(chuàng)建模塊,針對(duì)時(shí)間分割模式,創(chuàng)建要分割存儲(chǔ)的數(shù)據(jù)包的新文件夾;
文件創(chuàng)建模塊,針對(duì)大小分割模式,創(chuàng)建要分割存儲(chǔ)的數(shù)據(jù)包的新文件。
具體實(shí)施例2
在具體實(shí)施例1的基礎(chǔ)上,還包括文件存儲(chǔ)選擇模塊,對(duì)文件存儲(chǔ)模式進(jìn)行選擇;所述文件存儲(chǔ)模式包括單文件存儲(chǔ)模式和多文件存儲(chǔ)模式。
可以設(shè)置默認(rèn)文件存儲(chǔ)模式,也可以選擇在進(jìn)行文件下載存儲(chǔ)之前對(duì)文件存儲(chǔ)模式進(jìn)行選擇,方便用戶使用。
具體實(shí)施例3
在具體實(shí)施例1或2的基礎(chǔ)上,還包括分割方式選擇模塊,對(duì)存儲(chǔ)文件的分割模式進(jìn)行選擇,包括時(shí)間分割模式選擇單元和大小分割模式選擇單元。
可以設(shè)置默認(rèn)文件分割模式,也可以在對(duì)文件存儲(chǔ)之前進(jìn)行文件分割模式選擇,所述時(shí)間分割模式選擇單元和大小分割模式選擇單元可以選擇其一,也可以兩者均選中。
具體實(shí)施例4
在具體實(shí)施例1到3之一的基礎(chǔ)上,還包括分割大小閾值設(shè)置模塊,對(duì)要分割的大小閾值進(jìn)行設(shè)置。
用戶根據(jù)實(shí)際需求進(jìn)行大小閾值設(shè)置,例如該閾值可以為1MB,也可以為2MB,或者10MB。
具體實(shí)施例5
在具體實(shí)施例1到4之一的基礎(chǔ)上,還包括分割時(shí)間閾值設(shè)置模塊,對(duì)要分割的時(shí)間閾值進(jìn)行設(shè)置。
用戶根據(jù)實(shí)際需求進(jìn)行時(shí)間閾值設(shè)置,例如該時(shí)間閾值可以為幾秒,也可以為幾分鐘,幾小時(shí),幾天甚至幾周。
具體實(shí)施例6
在具體實(shí)施例1到5之一的基礎(chǔ)上,一種數(shù)據(jù)包下載管理方法,具體方法步驟為:
S1、判斷要下載的數(shù)據(jù)包的文件存儲(chǔ)模式是否為多文件存儲(chǔ)模式,如果是,則進(jìn)入下一步;如果否,則按照單文件存儲(chǔ)模式進(jìn)行文件下載存儲(chǔ);
S2、判斷文件存儲(chǔ)的分割模式是時(shí)間分割模式,還是大小分割模式,還是時(shí)間及大小的綜合分割模式;如果時(shí)間分割模式則進(jìn)入S3;如果是大小分割模式,則進(jìn)入S4;如果是時(shí)間及大小的綜合分割模式則進(jìn)入S5;
S3、按照設(shè)定的時(shí)間分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件夾進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件夾中;
S4、按照設(shè)定的時(shí)大小分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件中;
S5、按照設(shè)定的綜合分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件夾和文件進(jìn)行處理,并將按時(shí)間分割后的數(shù)據(jù)包存入相應(yīng)的文件夾,按大小分割后的數(shù)據(jù)包存入相應(yīng)的文件中。
具體實(shí)施例7
在具體實(shí)施例6的基礎(chǔ)上,所述時(shí)間分割模式中,用戶根據(jù)自身需求設(shè)置分割時(shí)間閾值,按照設(shè)定的分割時(shí)間閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ),判斷當(dāng)前數(shù)據(jù)包是否已經(jīng)跨出分割時(shí)間,是則在文件目錄下新建分割時(shí)間文件夾,并設(shè)置該新建文件夾為存儲(chǔ)位置。
具體實(shí)施例8
在具體實(shí)施例6到7之一的基礎(chǔ)上,所述大小分割模式中,用戶根據(jù)自身需求設(shè)置分割大小閾值,按照設(shè)定的分割大小閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ),判斷當(dāng)前數(shù)據(jù)包大小加上文件大小是否大于分割大小閾值,是則在存儲(chǔ)位置新建文件,并設(shè)置該新建文件為存儲(chǔ)位置。
具體實(shí)施例9
在具體實(shí)施例6到8之一的基礎(chǔ)上,所述綜合分割模式中,用戶根據(jù)自身需求設(shè)置分割時(shí)間閾值和分割大小閾值,按照設(shè)定的分割時(shí)間閾值和分割大小閾值對(duì)要存儲(chǔ)的數(shù)據(jù)包進(jìn)行分割存儲(chǔ);判斷當(dāng)前數(shù)據(jù)包是否已經(jīng)跨出分割時(shí)間,是則在文件目錄下新建分割時(shí)間文件夾,并設(shè)置該新建文件夾為存儲(chǔ)位置,同時(shí)判斷當(dāng)前數(shù)據(jù)包大小加上文件大小是否大于分割大小閾值,是則在存儲(chǔ)位置新建文件,并設(shè)置該新建文件為存儲(chǔ)位置。
具體實(shí)施例10
如圖1所示,在本具體實(shí)施例中,首先判斷要下載的數(shù)據(jù)包的文件存儲(chǔ)模式是否為多文件存儲(chǔ)模式,如果否,則按照單文件存儲(chǔ)模式進(jìn)行文件下載存儲(chǔ);如果是,則對(duì)數(shù)據(jù)包進(jìn)行下載處理,判斷是否需要對(duì)文件進(jìn)行分割存儲(chǔ),如果需要?jiǎng)t選擇分割存儲(chǔ)模式。
在本具體實(shí)施例中,先判斷是否啟用時(shí)間分割模式,是則按照設(shè)定的時(shí)間分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件夾進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件夾中;否則設(shè)置好文件存儲(chǔ)位置后新建存儲(chǔ)文件夾;再判斷是否其中大小分割模式,是則按照設(shè)定的時(shí)大小分割模式對(duì)數(shù)據(jù)包存儲(chǔ)的文件進(jìn)行處理,并將分割后的數(shù)據(jù)包存入相應(yīng)的文件中。也可以先判斷是否啟用大小分割模式再判斷是否啟用時(shí)間分割模式。
其中,對(duì)于時(shí)間分割測(cè)量,在本具體實(shí)施例中,采用采用文件夾管理策略:如采用1分鐘分割,則新建文件夾名稱以下方式“年-月-日-時(shí).分.秒-年-月-日-時(shí).分.秒”例如:“2016-08-23.11.24.00-2016-08-23.11.25.00”,“2016-08-23.11.25.00-2016-08-23.11.26.00”等,這些文件夾下則放置屬于該時(shí)間段的數(shù)據(jù)包,時(shí)間段為左閉右開區(qū)間[2016-08-23.11.25.00, 2016-08-23.11.26.00),即存儲(chǔ)的時(shí)間為“2016-08-23.11.25.00至2016-08-23.11.25.59”的數(shù)據(jù)包。
對(duì)于大小分割策略,采用文件管理策略:如采用1MB分割,則新建文件大小加上即將寫入的數(shù)據(jù)包的大小大于1MB,就新建另外一個(gè)文件。另,文件的名稱使用用戶自定義基本名稱+寫入文件當(dāng)前時(shí)間,如:基本名稱為“test”,則:“test時(shí)間” 例:“test2016-08-23.11.28.51.667”。