非負(fù)矩陣分解解法

1、在VQ分解中，每一列的被約束為一個(gè)一元矢量。其中只有一個(gè)元素為1，其他元素為0。若的第一列中，第r1個(gè)元素為1，那么中第一列的臉，就完全由基圖像中的第r1列數(shù)據(jù)表示。此時(shí)得到的基圖像稱(chēng)為原型基圖像，這些原型圖像表示一張?jiān)湍槨?/p>

2、在PCA分解中，的各列之間相互正交，各行之間相互正交。這個(gè)約束比VQ的松弛很多，也就是，中的元素可為正也可為負(fù)。中每一張臉的每一個(gè)像素點(diǎn)都是中各列對(duì)應(yīng)的像素點(diǎn)的一個(gè)加權(quán)和。由于權(quán)重矩陣中元素符號(hào)的任意性，所以基矩陣表示出來(lái)并不像VQ中原型臉那樣的直觀可解釋。此時(shí)將W的列數(shù)據(jù)畫(huà)出來(lái)并不一定能直接看到一張"臉"。但是在統(tǒng)計(jì)上可以解釋為最大方差方向，我們把這些"臉"稱(chēng)為"特征臉"。

3、在NMF中，由于加了非負(fù)約束。與VQ的單一元素不為0不同，NMF允許基圖像H間的加權(quán)結(jié)合來(lái)表示臉部圖像V;與PCA不同，NMF的加權(quán)系數(shù)H中的元素都為非負(fù)的。前兩者得到的都是一個(gè)完整的臉部特征基圖像，而NMF得到的是臉部子特征。通俗點(diǎn)說(shuō)，VQ是用一張完整的圖像直接代表源臉部圖像;PCA是將幾個(gè)完整人臉加減壓成一張臉;而NMF是取甲的眼睛，乙的鼻子，丙的嘴巴直接拼成一張臉。這樣解釋雖然細(xì)節(jié)上略有不妥，但不失其概念上的意義。

NMF的廣泛應(yīng)用，源于其對(duì)事物的局部特性有很好的解釋。在眾多應(yīng)用中，NMF能被用于發(fā)現(xiàn)數(shù)據(jù)庫(kù)中的圖像特征，便于快速自動(dòng)識(shí)別應(yīng)用;能夠發(fā)現(xiàn)文檔的語(yǔ)義相關(guān)度，用于信息自動(dòng)索引和提取;能夠在DNA陣列分析中識(shí)別基因等等。我們將對(duì)此作一些大致的描述。

(1) 圖像分析

NMF最成功的一類(lèi)應(yīng)用是在圖像的分析和處理領(lǐng)域。圖像本身包含大量的數(shù)據(jù)，計(jì)算機(jī)一般將圖像的信息按照矩陣的形式進(jìn)行存放，針對(duì)圖像的識(shí)別、分析和處理也是在矩陣的基礎(chǔ)上進(jìn)行的。這些特點(diǎn)使得NMF方法能很好地與圖像分析處理相結(jié)合。人們已經(jīng)利用NMF算法，對(duì)衛(wèi)星發(fā)回的圖像進(jìn)行處理，以自動(dòng)辨別太空中的垃圾碎片;使用NMF算法對(duì)天文望遠(yuǎn)鏡拍攝到的圖像進(jìn)行分析，有助于天文學(xué)家識(shí)別星體;美國(guó)還嘗試在機(jī)場(chǎng)安裝由NMF算法驅(qū)動(dòng)的識(shí)別系統(tǒng)，根據(jù)事先輸入計(jì)算機(jī)的恐怖分子的特征圖像庫(kù)來(lái)自動(dòng)識(shí)別進(jìn)出機(jī)場(chǎng)的可疑恐怖分子。

(2) 文本聚類(lèi)/數(shù)據(jù)挖掘

文本在人類(lèi)日常接觸的信息中占有很大分量，為了更快更精確地從大量的文本數(shù)據(jù)中取得所需要的信息，針對(duì)文本信息處理的研究一直沒(méi)有停止過(guò)。文本數(shù)據(jù)不光信息量大，而且一般是無(wú)結(jié)構(gòu)的。此外，典型的文本數(shù)據(jù)通常以矩陣的形式被計(jì)算機(jī)處理，此時(shí)的數(shù)據(jù)矩陣具有高維稀疏的特征，因此，對(duì)大規(guī)模文本信息進(jìn)行處理分析的另一個(gè)障礙便是如何削減原始數(shù)據(jù)的維數(shù)。NMF算法正是解決這方面難題的一種新手段。NMF在挖掘用戶所需數(shù)據(jù)和進(jìn)行文本聚類(lèi)研究中都有著成功的應(yīng)用例子。由于NMF算法在處理文本數(shù)據(jù)方面的高效性，著名的商業(yè)數(shù)據(jù)庫(kù)軟件Oracle在其第10版中專(zhuān)門(mén)利用NMF算法來(lái)進(jìn)行文本特征的提取和分類(lèi)。為什么NMF對(duì)于文本信息提取得很好呢?原因在于智能文本處理的核心問(wèn)題是以一種能捕獲語(yǔ)義或相關(guān)信息的方式來(lái)表示文本，但是傳統(tǒng)的常用分析方法僅僅是對(duì)詞進(jìn)行統(tǒng)計(jì)，而不考慮其他的信息。而NMF不同，它往往能達(dá)到表示信息的局部之間相關(guān)關(guān)系的效果，從而獲得更好的處理結(jié)果。

(3) 語(yǔ)音處理

語(yǔ)音的自動(dòng)識(shí)別一直是計(jì)算機(jī)科學(xué)家努力的方向，也是未來(lái)智能應(yīng)用實(shí)現(xiàn)的基礎(chǔ)技術(shù)。語(yǔ)音同樣包含大量的數(shù)據(jù)信息，識(shí)別語(yǔ)音的過(guò)程也是對(duì)這些信息處理的過(guò)程。NMF算法在這方面也為我們提供了一種新方法，在已有的應(yīng)用中，NMF算法成功實(shí)現(xiàn)了有效的語(yǔ)音特征提取，并且由于NMF算法的快速性，對(duì)實(shí)現(xiàn)機(jī)器的實(shí)時(shí)語(yǔ)音識(shí)別有著促進(jìn)意義。也有使用NMF方法進(jìn)行音樂(lè)分析的應(yīng)用。復(fù)調(diào)音樂(lè)的識(shí)別是個(gè)很困難的問(wèn)題，三菱研究所和MIT(麻省理工學(xué)院)的科學(xué)家合作，利用NMF從演奏中的復(fù)調(diào)音樂(lè)中識(shí)別出各個(gè)調(diào)子，并將它們分別記錄下來(lái)。實(shí)驗(yàn)結(jié)果表明，這種采用NMF算法的方法不光簡(jiǎn)單，而且無(wú)須基于知識(shí)庫(kù)。

(4) 機(jī)器人控制

如何快速準(zhǔn)確地讓機(jī)器人識(shí)別周?chē)奈矬w對(duì)于機(jī)器人研究具有重要的意義，因?yàn)檫@是機(jī)器人能迅速作出相應(yīng)反應(yīng)和動(dòng)作的基礎(chǔ)。機(jī)器人通過(guò)傳感器獲得周?chē)h(huán)境的圖像信息，這些圖像信息也是以矩陣的形式存儲(chǔ)的。已經(jīng)有研究人員采用NMF算法實(shí)現(xiàn)了機(jī)器人對(duì)周?chē)鷮?duì)象的快速識(shí)別，根據(jù)現(xiàn)有的研究資料顯示，識(shí)別的準(zhǔn)確率達(dá)到了80%以上。

(5) 生物醫(yī)學(xué)工程和化學(xué)工程

生物醫(yī)學(xué)和化學(xué)研究中，也常常需要借助計(jì)算機(jī)來(lái)分析處理試驗(yàn)的數(shù)據(jù)，往往一些煩雜的數(shù)據(jù)會(huì)耗費(fèi)研究人員的過(guò)多精力。NMF算法也為這些數(shù)據(jù)的處理提供了一種新的高效快速的途徑?？茖W(xué)家將NMF方法用于處理核醫(yī)學(xué)中的電子發(fā)射過(guò)程的動(dòng)態(tài)連續(xù)圖像，有效地從這些動(dòng)態(tài)圖像中提取所需要的特征。NMF還可以應(yīng)用到遺傳學(xué)和藥物發(fā)現(xiàn)中。因?yàn)镹MF的分解不出現(xiàn)負(fù)值，因此采用NMF分析基因DNA的分子序列可使分析結(jié)果更加可靠。同樣，用NMF來(lái)選擇藥物成分還可以獲得最有效的且負(fù)作用最小的新藥物。

此外，NMF算法在環(huán)境數(shù)據(jù)處理、信號(hào)分析與復(fù)雜對(duì)象的識(shí)別方面都有著很好的應(yīng)用。近年來(lái)采用NMF思想的應(yīng)用才剛展開(kāi)，相信以后會(huì)有更多的成功應(yīng)用。這些成功的應(yīng)用反過(guò)來(lái)也將促進(jìn)NMF的進(jìn)一步研究。