全國模式識別 振皓科技

全國模式識別 振皓科技

模式識別簡史? ? ??早期的模式識別研究著重在數(shù)學方法上。20世紀50年代末，F(xiàn).羅森布拉特提出了一種簡化的模擬人腦進行識別的數(shù)學模型--感知器，初步實現(xiàn)了通過給定類別的各個樣本對識別系統(tǒng)進行訓練，使系統(tǒng)在學習完畢后具有對其他未知類別的模式進行正確分類的能力。1957年，周紹康提出用統(tǒng)計決策理論方法求解模式識別問題，促進了從50年代末開始的模式識別研究工作的迅速發(fā)展。1962年，R.納拉西曼提出了一種基于基元關(guān)系的句法識別方法。付京孫(K.S. Fu)在笮的理論及應(yīng)用兩方^行了系統(tǒng)的卓有成效的研究，并于1974年出版了一本專著《句法模式識別及其應(yīng)用》。1982年和1984年，J.荷甫菲爾德發(fā)表了兩篇重要論文，深刻揭示出人工神經(jīng)元，網(wǎng)路所具有的聯(lián)想存儲和計算能力，進一步推動了模式識別的研究工作，短短幾年在很多應(yīng)用方面就取得了顯著成果，從而形成了模式識別的人工神經(jīng)元網(wǎng)絡(luò)方法的新的學科方向。
模式識別算法1. K-Nearest Neighbor? ??K-NN可以說是一種直接的用來分類未知數(shù)據(jù)的方法。簡單來說，K-NN可以看成：有那么一堆你已經(jīng)知道分類的數(shù)據(jù)，然后當一個新數(shù)據(jù)進入的時候，就開始跟訓練數(shù)據(jù)里的每個點求距離，然后挑離這個訓練數(shù)據(jù)近的K個點看看這幾個點屬于什么類型，然后用少數(shù)服從多數(shù)的原則，給新數(shù)據(jù)歸類。? ??實際上K-NN本身的運算量是相當大的，因為數(shù)據(jù)的維數(shù)往往不止2維，而且訓練數(shù)據(jù)庫越大，所求的樣本間距離就越多。就拿我們course project的人臉檢測來說，輸入向量的維數(shù)是1024維(32x32的圖，當然我覺得這種方法比較silly)，訓練數(shù)據(jù)有上千個，所以每次求距離(這里用的是歐式距離，就是我們常用的平方和開根號求距法) 這樣每個點的歸類都要花上上百萬次的計算。所以現(xiàn)在比較常用的一種方法就是kd-tree。也就是把整個輸入空間劃分成很多很多小子區(qū)域，然后根據(jù)臨近的原則把它們組織為樹形結(jié)構(gòu)。然后搜索近K個點的時候就不用全盤比較而只要比較臨近幾個子區(qū)域的訓練數(shù)據(jù)就行了。? ?? ? ??當然，kd-tree有一個問題就是當輸入維數(shù)跟訓練數(shù)據(jù)數(shù)量很接近時就很難優(yōu)化了。所以用PCA(稍后會介紹)降維大多數(shù)情況下是很有必要的

模式識別方法? ? ? ?決策理論方法又稱統(tǒng)計方法，是發(fā)展較早也比較成熟的一種方法。被識別對象首先數(shù)字化，變換為適于計算機處理的數(shù)字信息。一個模式常常要用很大的信息量來表示。許多模式識別系統(tǒng)在數(shù)字化環(huán)節(jié)之后還進行預(yù)處理，用于除去混入的干擾信息并減少某些變形和失真。隨后是進行特征抽取，即從數(shù)字化后或預(yù)處理后的輸入模式中抽取一組特征。所謂特征是選定的一種度量，它對于一般的變形和失真保持不變或幾乎不變，并且只含盡可能少的冗余信息。特征抽取過程將輸入模式從對象空間映射到特征空間。這時，模式可用特征空間中的一個點或一個特征矢量表示。這種映射不僅壓縮了信息量，而且易于分類。在決策理論方法中，特征抽取占有重要的地位，但尚無通用的理論指導，只能通過分析具體識別對象決定選取何種特征。特征抽取后可進行分類，即從特征空間再映射到?jīng)Q策空間。為此而引入鑒別函數(shù)，由特征矢量計算出相應(yīng)于各類別的鑒別函數(shù)值，通過鑒別函數(shù)值的比較實行分類。