專利名稱：一種提高svm建模準確率的方法
技術領域：
本發(fā)明屬于生物技術領域，涉及一種提高SVM數(shù)據(jù)建模準確率的方法。
背景技術：
數(shù)據(jù)建模指的是對現(xiàn)實世界各類數(shù)據(jù)的抽象組織，確定數(shù)據(jù)庫需管轄的范圍、數(shù)據(jù)的組織形式等直至轉化成現(xiàn)實的數(shù)據(jù)庫。將經(jīng)過系統(tǒng)分析后抽象出來的概念模型轉化為物理模型后，再利用計算機工具建立數(shù)據(jù)庫實體以及各實體之間關系的過程。SVM(Support Vector Machine)又稱支持向量機，是Corinna Cortes和Vapnik[8] 等于1995年首先提出的，是一種新的基于可以訓練的機器學習上的建模方法。SVM是建立在統(tǒng)計學習理論的VC維理論和結構風險最小原理基礎上的，根據(jù)有限的樣本信息在模型的復雜性(即對特定訓練樣本的學習精度)和學習能力(即無錯誤地識別任意樣本的能力)之間尋求最佳折衷，以期獲得最好的推廣能力。通過對許多小樣本的學習，獲得最佳的核心參數(shù)及函數(shù)。SVM的主要思想可以概括為兩點(1)它是針對線性可分情況進行分析， 對于線性不可分的情況，通過使用非線性映射算法將低維輸入空間線性不可分的樣本轉化為高維特征空間使其線性可分，從而使得高維特征空間采用線性算法對樣本的非線性特征進行線性分析成為可能；(2)它基于結構風險最小化理論之上在特征空間中建構最優(yōu)分割超平面，使得學習器得到全局最優(yōu)化，并且在整個樣本空間的期望風險以某個概率滿足一定上界。將SVM支持向量機引入生物信息學的分析研究中，可用來建立檢測差異表達蛋白的預測模型，通過對多組差異表達蛋白的機器學習，自動尋找最佳模型參數(shù)，建立SVM模型。利用SVM建立的預測模型可以最大化類與類之間的間隔，具有很好自適應能力，預測準確率一般在60% -65%之間。

發(fā)明內容
SVM(支持向量機)建模的方法是建立在統(tǒng)計學習理論上的機器學習方法，具有相對優(yōu)良的性能指標。我們在進行差異表達基因研究時，選取幾個差異表達基因建立SVM模型，同時按照ANOVA的p-value將基因排序，按照p-value值由小到大的順序將其他基因一次一個的加入到模型中，通過訓練學習，觀察并記錄每個基因數(shù)模型的記憶能力及預測準確率，最終找到預測準確率最高的一個模型，我們隨機選取訓練集和測試集，多次建模，結果發(fā)現(xiàn)模型平均預測準確率在60% -65%之間，并不能有顯著的提高。為了提高SVM建模的準確率，本發(fā)明所述方法設計了一套SVM建模的實施過程，通過自適應的機器學習，對影響預測結果準確性的預測錯誤的樣本進行剔除，最終可以最大程度的提高模型預測的準確性。該方法包括如下幾個基本步驟步驟1、選取特定樣本建立N組訓練集和測試集步驟2、選一組訓練集和測試集進行SVM建模步驟3、尋找最優(yōu)SVM參數(shù)范圍，記錄預測錯誤樣本號。
步驟4、對每組訓練集和測試集重復步驟2、3。步驟5、取各組最優(yōu)SVM參數(shù)范圍的交集，剔除共有的預測錯誤的樣本步驟6、應用上述SVM參數(shù)，重新建立SVM模型步驟7、SVM模型的微調


圖1、本發(fā)明所述方法的實施流程圖實施方式本發(fā)明所述的方法可用來提高SVM建模的準確率，其具體的實施流程如下步驟1、對一特定的樣本建立若干訓練集和測試集(比如有N組)，使得N組訓練集和測試集之間的交集為0，即保證N組訓練集和測試集能最大程度的線性無關。步驟2、隨機選定一組訓練集和測試集。步驟3、對選定的訓練集和測試集進行訓練和預測，尋找最優(yōu)的SVM參數(shù)，即c，g值和核函數(shù)t的選擇，得到最優(yōu)預測率對應的一組參數(shù)范圍(即c的范圍、g的范圍和采用哪種核函數(shù))。步驟4、記錄步驟3測試集中預測錯誤的樣本號。步驟5、對于每一組訓練集和測試集，重復步驟2到步驟4的工作，分別記錄每一組的最優(yōu)參數(shù)范圍和預測錯誤的樣本號，整理成列表。步驟6、對得到的N組訓練集和測試集的參數(shù)范圍(即c的范圍，g的范圍和采用哪種核函數(shù))取交集，作為SVM模型的最優(yōu)參數(shù)，同時找出各組中共有的預測錯誤樣本的樣本號。步驟7、剔除預測錯誤的樣本，并采用步驟六中得到的SVM最優(yōu)參數(shù)進行預測模型
的重建立。步驟8、根據(jù)具體情況，對模型進行細微調整。通過以上八步基本上可以最大程度的提高模型預測的準確性。以上是對本發(fā)明的描述而非限定，基于本發(fā)明思想的其它實施方式，均在本發(fā)明的保護范圍之中。
權利要求
1.本發(fā)明所述的一種提高SVM建模準確率的方法，該方法包括如下幾步基本特征步驟1、選取特定樣本建立N組訓練集和測試集步驟2、選一組訓練集和測試集進行SVM建模步驟3、尋找最優(yōu)SVM參數(shù)范圍，記錄預測錯誤樣本號。步驟4、對每組訓練集和測試集重復步驟2、3。步驟5、取各組最優(yōu)SVM參數(shù)范圍的交集，剔除共有的預測錯誤的樣本步驟6、應用上述SVM參數(shù)，重新建立SVM模型步驟7、SVM模型的微調。
全文摘要
SVM(支持向量機)建模的方法是建立在統(tǒng)計學習理論上的機器學習方法，具有相對優(yōu)良的性能指標，常用于差異基因的研究中。但常規(guī)SVM建模方法的準確率不太高，本發(fā)明設計了一套SVM建模的實施流程，用以提高其建模的準確率。該方法的基本思路為對一特定樣本建立多組訓練集和測試集，用以建立多組SVM模型，對每組模型尋找最優(yōu)SVM參數(shù)范圍和預測錯誤的樣本，然后取各組的交集，保留交集中的SVM參數(shù)，剔除交集中的錯誤樣本號，最后以最優(yōu)SVM建模參數(shù)和不全錯誤的樣本重新建立SVM模型。
文檔編號G06F19/12GK102279906SQ20101021405
公開日2011年12月14日 申請日期2010年6月29日 優(yōu)先權日2010年6月29日
發(fā)明者曾華宗 申請人:上海聚類生物科技有限公司