文本機(jī)器學(xué)習(xí)

第一部分：深度學(xué)習(xí)1、神經(jīng)網(wǎng)絡(luò)基礎(chǔ)問題

（1）Backpropagation（要能推倒）

后向傳播是在求解損失函數(shù)L對參數(shù)w求導(dǎo)時候用到的方法，目的是通過鏈?zhǔn)椒▌t對參數(shù)進(jìn)行一層一層的求導(dǎo)。這里重點(diǎn)強(qiáng)調(diào)：要將參數(shù)進(jìn)行隨機(jī)初始化而不是全部置0，否則所有隱層的數(shù)值都會與輸入相關(guān)，這稱為對稱失效。

大致過程是:

首先前向傳導(dǎo)計(jì)算出所有節(jié)點(diǎn)的激活值和輸出值， 計(jì)算整體損失函數(shù)： 然后針對第L層的每個節(jié)點(diǎn)計(jì)算出殘差（這里是因?yàn)閁FLDL中說的是殘差，本質(zhì)就是整體損失函數(shù)對每一層激活值Z的導(dǎo)數(shù)），所以要對W求導(dǎo)只要再乘上激活函數(shù)對W的導(dǎo)數(shù)即可

（2）梯度消失、梯度爆炸

梯度消失：這本質(zhì)上是由于激活函數(shù)的選擇導(dǎo)致的， 最簡單的sigmoid函數(shù)為例，在函數(shù)的兩端梯度求導(dǎo)結(jié)果非常?。柡蛥^(qū)），導(dǎo)致后向傳播過程中由于多次用到激活函數(shù)的導(dǎo)數(shù)值使得整體的乘積梯度結(jié)果變得越來越小，也就出現(xiàn)了梯度消失的現(xiàn)象。

梯度爆炸：同理，出現(xiàn)在激活函數(shù)處在激活區(qū)，而且權(quán)重W過大的情況下。但是梯度爆炸不如梯度消失出現(xiàn)的機(jī)會多。

（3）常用的激活函數(shù)

激活函數(shù)	公式	缺點(diǎn)	優(yōu)點(diǎn)
Sigmoid	σ(x)=1/(1+e?x)σ ( x ) = 1 / ( 1 + e ? x )	1、會有梯度彌散 2、不是關(guān)于原點(diǎn)對稱 3、計(jì)算exp比較耗時	-
Tanh	tanh(x)=2σ(2x)?1tanh ? ( x ) = 2 σ ( 2 x ) ? 1	梯度彌散沒解決	1、解決了原點(diǎn)對稱問題 2、比sigmoid更快
ReLU	f(x)=max(0,x)f ( x ) = max ( 0 , x )	梯度彌散沒完全解決，在（-）部分相當(dāng)于神經(jīng)元死亡而且不會復(fù)活	1、解決了部分梯度彌散問題 2、收斂速度更快
Leaky ReLU	f(x)=1(x<0)(αx)+1(x>=0)(x)f ( x ) = 1 ( x < 0 ) ( α x ) + 1 ( x >= 0 ) ( x )	-	解決了神經(jīng)死亡問題
Maxout	max(wT1x+b1,wT2x+b2)max ( w 1 T x + b 1 , w 2 T x + b 2 )	參數(shù)比較多,本質(zhì)上是在輸出結(jié)果上又增加了一層	克服了ReLU的缺點(diǎn)，比較提倡使用

（4）參數(shù)更新方法

方法名稱	公式
Vanilla update	x += - learning_rate * dx
Momentum update動量更新	v = mu * v - learning_rate * dx # integrate velocity x += v # integrate position
Nesterov Momentum	x_ahead = x + mu * v v = mu * v - learning_rate * dx_ahead x += v
Adagrad (自適應(yīng)的方法，梯度大的方向?qū)W習(xí)率越來越小,由快到慢)	cache += dx**2 x += - learning_rate * dx / (np.sqrt(cache) + eps)
Adam	m = beta1*m + (1-beta1)dx v = beta2*v + (1-beta2)(dx**2) x += - learning_rate * m / (np.sqrt(v) + eps)

（5）解決overfitting的方法

dropout， regularization， batch normalizatin，但是要注意dropout只在訓(xùn)練的時候用，讓一部分神經(jīng)元隨機(jī)失活。

Batch normalization是為了讓輸出都是單位高斯激活，方法是在連接和激活函數(shù)之間加入BatchNorm層，計(jì)算每個特征的均值和方差進(jìn)行規(guī)則化。

2、CNN問題

（1） 思想

改變?nèi)B接為局部連接，這是由于圖片的特殊性造成的（圖像的一部分的統(tǒng)計(jì)特性與其他部分是一樣的），通過局部連接和參數(shù)共享大范圍的減少參數(shù)值?？梢酝ㄟ^使用多個filter來提取圖片的不同特征（多卷積核）。

（2）filter尺寸的選擇

通常尺寸多為奇數(shù)（1，3，5，7）

（3）輸出尺寸計(jì)算公式

輸出尺寸=(N - F +padding*2)/stride + 1

步長可以自由選擇通過補(bǔ)零的方式來實(shí)現(xiàn)連接。

（4）pooling池化的作用

雖然通過.卷積的方式可以大范圍的減少輸出尺寸（特征數(shù)），但是依然很難計(jì)算而且很容易過擬合，所以依然利用圖片的靜態(tài)特性通過池化的方式進(jìn)一步減少尺寸。

（5）常用的幾個模型，這個最好能記住模型大致的尺寸參數(shù)。

名稱	特點(diǎn)
LeNet5	–沒啥特點(diǎn)-不過是第一個CNN應(yīng)該要知道
AlexNet	引入了ReLU和dropout，引入數(shù)據(jù)增強(qiáng)、池化相互之間有覆蓋，三個卷積一個最大池化+三個全連接層
VGGNet	采用1*1和3*3的卷積核以及2*2的最大池化使得層數(shù)變得更深。常用VGGNet-16和VGGNet19
Google Inception Net 我稱為盜夢空間網(wǎng)絡(luò)	這個在控制了計(jì)算量和參數(shù)量的同時，獲得了比較好的分類性能，和上面相比有幾個大的改進(jìn)： 1、去除了最后的全連接層，而是用一個全局的平均池化來取代它； 2、引入Inception Module，這是一個4個分支結(jié)合的結(jié)構(gòu)。所有的分支都用到了1*1的卷積，這是因?yàn)?*1性價比很高，可以用很少的參數(shù)達(dá)到非線性和特征變換。 3、Inception V2第二版將所有的5*5變成2個3*3，而且提出來著名的Batch Normalization； 4、Inception V3第三版就更變態(tài)了，把較大的二維卷積拆成了兩個較小的一維卷積，加速運(yùn)算、減少過擬合，同時還更改了Inception Module的結(jié)構(gòu)。
微軟ResNet殘差神經(jīng)網(wǎng)絡(luò)(Residual Neural Network)	1、引入高速公路結(jié)構(gòu)，可以讓神經(jīng)網(wǎng)絡(luò)變得非常深 2、ResNet第二個版本將ReLU激活函數(shù)變成y=x的線性函數(shù)

2、RNN

1、RNN原理：

在普通的全連接網(wǎng)絡(luò)或CNN中，每層神經(jīng)元的信號只能向上一層傳播，樣本的處理在各個時刻獨(dú)立，因此又被成為前向神經(jīng)網(wǎng)絡(luò)(Feed-forward+Neural+Networks)。而在RNN中，神經(jīng)元的輸出可以在下一個時間戳直接作用到自身，即第i層神經(jīng)元在m時刻的輸入，除了（i-1）層神經(jīng)元在該時刻的輸出外，還包括其自身在（m-1）時刻的輸出。所以叫循環(huán)神經(jīng)網(wǎng)絡(luò)

2、RNN、LSTM、GRU區(qū)別

RNN引入了循環(huán)的概念，但是在實(shí)際過程中卻出現(xiàn)了初始信息隨時間消失的問題，即長期依賴（Long-Term Dependencies）問題，所以引入了LSTM。 LSTM：因?yàn)長STM有進(jìn)有出且當(dāng)前的cell informaton是通過input gate控制之后疊加的，RNN是疊乘，因此LSTM可以防止梯度消失或者爆炸。推導(dǎo)forget gate，input gate，cell state， hidden information等因?yàn)長STM有進(jìn)有出且當(dāng)前的cell informaton是通過input gate控制之后疊加的，RNN是疊乘，因此LSTM可以防止梯度消失或者爆炸的變化是關(guān)鍵，下圖非常明確適合記憶： GRU是LSTM的變體，將忘記門和輸入們合成了一個單一的更新門。

3、LSTM防止梯度彌散和爆炸

LSTM用加和的方式取代了乘積，使得很難出現(xiàn)梯度彌散。但是相應(yīng)的更大的幾率會出現(xiàn)梯度爆炸，但是可以通過給梯度加門限解決這一問題。

4、引出word2vec

這個也就是Word Embedding，是一種高效的從原始語料中學(xué)習(xí)字詞空間向量的預(yù)測模型。分為CBOW(Continous Bag of Words)和Skip-Gram兩種形式。其中CBOW是從原始語句推測目標(biāo)詞匯，而Skip-Gram相反。CBOW可以用于小語料庫，Skip-Gram用于大語料庫。具體的就不是很會了。

3、GAN

1、GAN的思想

GAN結(jié)合了生成模型和判別模型，相當(dāng)于矛與盾的撞擊。生成模型負(fù)責(zé)生成最好的數(shù)據(jù)騙過判別模型，而判別模型負(fù)責(zé)識別出哪些是真的哪些是生成模型生成的。但是這些只是在了解了GAN之后才體會到的，但是為什么這樣會有效呢？

假設(shè)我們有分布Pdata(x)，我們希望能建立一個生成模型來模擬真實(shí)的數(shù)據(jù)分布，假設(shè)生成模型為Pg(x;θθ )，我們的目的是求解θθ 的值，通常我們都是用最大似然估計(jì)。但是現(xiàn)在的問題是由于我們相用NN來模擬Pdata(x)，但是我們很難求解似然函數(shù)，因?yàn)槲覀儧]辦法寫出生成模型的具體表達(dá)形式，于是才有了GAN，也就是用判別模型來代替求解最大似然的過程。

在最理想的狀態(tài)下，G可以生成足以“以假亂真”的圖片G(z)。對于D來說，它難以判定G生成的圖片究竟是不是真實(shí)的，因此D(G(z)) = 0.5。這樣我們的目的就達(dá)成了：我們得到了一個生成式的模型G，它可以用來生成圖片。

2、GAN的表達(dá)式

通過分析GAN的表達(dá)可以看出本質(zhì)上就是一個minmax問題。其中V(D, G)可以看成是生成模型和判別模型的差異，而minmaxD說的是最大的差異越小越好。這種度量差異的方式實(shí)際上叫做Jensen-Shannon divergence。

3、GAN的實(shí)際計(jì)算方法

因?yàn)槲覀儾豢赡苡蠵data(x)的分布，所以我們實(shí)際中都是用采樣的方式來計(jì)算差異（也就是積分變求和）。具體實(shí)現(xiàn)過程如下：

有幾個關(guān)鍵點(diǎn)：判別方程訓(xùn)練K次，而生成模型只需要每次迭代訓(xùn)練一次，先最大化（梯度上升）再最小化（梯度下降）。

但是實(shí)際計(jì)算時V的后面一項(xiàng)在D(x)很小的情況下由于log函數(shù)的原因會導(dǎo)致更新很慢，所以實(shí)際中通常將后一項(xiàng)的log(1-D(x))變?yōu)?logD(x)。

實(shí)際計(jì)算的時候還發(fā)現(xiàn)不論生成器設(shè)計(jì)的多好，判別器總是能判斷出真假，也就是loss幾乎都是0，這可能是因?yàn)槌闃釉斐傻?，生成?shù)據(jù)與真實(shí)數(shù)據(jù)的交集過小，無論生成模型多好，判別模型也能分辨出來。解決方法有兩個：1、用WGAN 2、引入隨時間減少的噪聲

4、對GAN有一些改進(jìn)有引入f-divergence，取代Jensen-Shannon divergence，還有很多，這里主要介紹WGAN

5、WGAN

上面說過了用f-divergence來衡量兩個分布的差異，而WGAN的思路是使用Earth Mover distance (挖掘機(jī)距離 Wasserstein distance)。

第二部分、機(jī)器學(xué)習(xí)準(zhǔn)備1、決策樹樹相關(guān)問題

（1）各種熵的計(jì)算

熵、聯(lián)合熵、條件熵、交叉熵、KL散度（相對熵）

熵用于衡量不確定性，所以均分的時候熵最大 KL散度用于度量兩個分布的不相似性，KL(p||q)等于交叉熵H(p,q)-熵H(p)。交叉熵可以看成是用q編碼P所需的bit數(shù)，減去p本身需要的bit數(shù)，KL散度相當(dāng)于用q編碼p需要的額外bits。 交互信息Mutual information ：I(x,y) = H(x)-H(x|y) = H(y)-H(y|x) 表示觀察到x后，y的熵會減少多少。

（2）常用的樹搭建方法：ID3、C4.5、CART

上述幾種樹分別利用信息增益、信息增益率、Gini指數(shù)作為數(shù)據(jù)分割標(biāo)準(zhǔn)。

其中信息增益衡量按照某個特征分割前后熵的減少程度，其實(shí)就是上面說的交互信息。 用上述信息增益會出現(xiàn)優(yōu)先選擇具有較多屬性的特征，畢竟分的越細(xì)的屬性確定性越高。所以提出了信息增益率的概念，讓含有較多屬性的特征的作用降低。 CART樹在分類過程中使用的基尼指數(shù)Gini，只能用于切分二叉樹，而且和ID3、C4.5樹不同，Cart樹不會在每一個步驟刪除所用特征。

（3）防止過擬合：剪枝

剪枝分為前剪枝和后剪枝，前剪枝本質(zhì)就是早停止，后剪枝通常是通過衡量剪枝后損失函數(shù)變化來決定是否剪枝。后剪枝有：錯誤率降低剪枝、悲觀剪枝、代價復(fù)雜度剪枝

（4）前剪枝的幾種停止條件

節(jié)點(diǎn)中樣本為同一類 特征不足返回多類 如果某個分支沒有值則返回父節(jié)點(diǎn)中的多類 樣本個數(shù)小于閾值返回多類 2、邏輯回歸相關(guān)問題

（1）公式推導(dǎo)一定要會

（2）邏輯回歸的基本概念

這個最好從廣義線性模型的角度分析，邏輯回歸是假設(shè)y服從Bernoulli分布。

（3）L1-norm和L2-norm

其實(shí)稀疏的根本還是在于L0-norm也就是直接統(tǒng)計(jì)參數(shù)不為0的個數(shù)作為規(guī)則項(xiàng)，但實(shí)際上卻不好執(zhí)行于是引入了L1-norm；而L1norm本質(zhì)上是假設(shè)參數(shù)先驗(yàn)是服從Laplace分布的，而L2-norm是假設(shè)參數(shù)先驗(yàn)為Gaussian分布，我們在網(wǎng)上看到的通常用圖像來解答這個問題的原理就在這。

但是L1-norm的求解比較困難，可以用坐標(biāo)軸下降法或是最小角回歸法求解。

（4）LR和SVM對比

首先，LR和SVM最大的區(qū)別在于損失函數(shù)的選擇，LR的損失函數(shù)為Log損失（或者說是邏輯損失都可以）、而SVM的損失函數(shù)為hinge loss。

其次，兩者都是線性模型。

最后，SVM只考慮支持向量（也就是和分類相關(guān)的少數(shù)點(diǎn)）

（5）LR和隨機(jī)森林區(qū)別

隨機(jī)森林等樹算法都是非線性的，而LR是線性的。LR更側(cè)重全局優(yōu)化，而樹模型主要是局部的優(yōu)化。

（6）常用的優(yōu)化方法

邏輯回歸本身是可以用公式求解的，但是因?yàn)樾枰竽娴膹?fù)雜度太高，所以才引入了梯度下降算法。

一階方法：梯度下降、隨機(jī)梯度下降、mini 隨機(jī)梯度下降降法。隨機(jī)梯度下降不但速度上比原始梯度下降要快，局部最優(yōu)化問題時可以一定程度上抑制局部最優(yōu)解的發(fā)生。

二階方法：牛頓法、擬牛頓法：

這里詳細(xì)說一下牛頓法的基本原理和牛頓法的應(yīng)用方式。牛頓法其實(shí)就是通過切線與x軸的交點(diǎn)不斷更新切線的位置，直到達(dá)到曲線與x軸的交點(diǎn)得到方程解。在實(shí)際應(yīng)用中我們因?yàn)槌３Ｒ蠼馔箖?yōu)化問題，也就是要求解函數(shù)一階導(dǎo)數(shù)為0的位置，而牛頓法恰好可以給這種問題提供解決方法。實(shí)際應(yīng)用中牛頓法首先選擇一個點(diǎn)作為起始點(diǎn)，并進(jìn)行一次二階泰勒展開得到導(dǎo)數(shù)為0的點(diǎn)進(jìn)行一個更新，直到達(dá)到要求，這時牛頓法也就成了二階求解問題，比一階方法更快。我們常常看到的x通常為一個多維向量，這也就引出了Hessian矩陣的概念（就是x的二階導(dǎo)數(shù)矩陣）。缺點(diǎn)：牛頓法是定長迭代，沒有步長因子，所以不能保證函數(shù)值穩(wěn)定的下降，嚴(yán)重時甚至?xí)?。還有就是牛頓法要求函數(shù)一定是二階可導(dǎo)的。而且計(jì)算Hessian矩陣的逆復(fù)雜度很大。

擬牛頓法： 不用二階偏導(dǎo)而是構(gòu)造出Hessian矩陣的近似正定對稱矩陣的方法稱為擬牛頓法。擬牛頓法的思路就是用一個特別的表達(dá)形式來模擬Hessian矩陣或者是他的逆使得表達(dá)式滿足擬牛頓條件。主要有DFP法（逼近Hession的逆）、BFGS（直接逼近Hession矩陣）、 L-BFGS（可以減少BFGS所需的存儲空間）。

3、SVM相關(guān)問題

（1）帶核的SVM為什么能分類非線性問題？

核函數(shù)的本質(zhì)是兩個函數(shù)的內(nèi)積，而這個函數(shù)在SVM中可以表示成對于輸入值的高維映射。注意核并不是直接對應(yīng)映射，核只不過是一個內(nèi)積

（2）RBF核一定是線性可分的嗎

不一定，RBF核比較難調(diào)參而且容易出現(xiàn)維度災(zāi)難，要知道無窮維的概念是從泰勒展開得出的。

（3）常用核函數(shù)及核函數(shù)的條件：

核函數(shù)選擇的時候應(yīng)該從線性核開始，而且在特征很多的情況下沒有必要選擇高斯核，應(yīng)該從簡單到難的選擇模型。我們通常說的核函數(shù)指的是正定和函數(shù)，其充要條件是對于任意的x屬于X，要求K對應(yīng)的Gram矩陣要是半正定矩陣。

RBF核徑向基，這類函數(shù)取值依賴于特定點(diǎn)間的距離，所以拉普拉斯核其實(shí)也是徑向基核。 線性核：主要用于線性可分的情況 多項(xiàng)式核

（4）SVM的基本思想：

間隔最大化來得到最優(yōu)分離超平面。方法是將這個問題形式化為一個凸二次規(guī)劃問題，還可以等價位一個正則化的合頁損失最小化問題。SVM又有硬間隔最大化和軟間隔SVM兩種。這時首先要考慮的是如何定義間隔，這就引出了函數(shù)間隔和幾何間隔的概念（這里只說思路），我們選擇了幾何間隔作為距離評定標(biāo)準(zhǔn)（為什么要這樣，怎么求出來的要知道），我們希望能夠最大化與超平面之間的幾何間隔x，同時要求所有點(diǎn)都大于這個值，通過一些變化就得到了我們常見的SVM表達(dá)式。接著我們發(fā)現(xiàn)定義出的x只是由個別幾個支持向量決定的。對于原始問題（primal problem）而言，可以利用凸函數(shù)的函數(shù)包來進(jìn)行求解，但是發(fā)現(xiàn)如果用對偶問題（dual ）求解會變得更簡單，而且可以引入核函數(shù)。而原始問題轉(zhuǎn)為對偶問題需要滿足KKT條件（這個條件應(yīng)該細(xì)細(xì)思考一下）到這里還都是比較好求解的。因?yàn)槲覀兦懊嬲f過可以變成軟間隔問題，引入了懲罰系數(shù)，這樣還可以引出hinge損失的等價形式（這樣可以用梯度下降的思想求解SVM了）。我個人認(rèn)為難的地方在于求解參數(shù)的SMO算法。

（5）是否所有的優(yōu)化問題都可以轉(zhuǎn)化為對偶問題：

這個問題我感覺非常好，有了強(qiáng)對偶和弱對偶的概念。用知乎大神的解釋吧

（6）處理數(shù)據(jù)偏斜：

可以對數(shù)量多的類使得懲罰系數(shù)C越小表示越不重視，相反另數(shù)量少的類懲罰系數(shù)變大。

4、Boosting和Bagging

（1）隨機(jī)森林

隨機(jī)森林改變了決策樹容易過擬合的問題，這主要是由兩個操作所優(yōu)化的：1、Boostrap從袋內(nèi)有放回的抽取樣本值2、每次隨機(jī)抽取一定數(shù)量的特征（通常為sqr(n)）。

分類問題：采用Bagging投票的方式選擇類別頻次最高的

回歸問題：直接取每顆樹結(jié)果的平均值。

常見參數(shù)	誤差分析	優(yōu)點(diǎn)	缺點(diǎn)
1、樹最大深度 2、樹的個數(shù) 3、節(jié)點(diǎn)上的最小樣本數(shù) 4、特征數(shù)(sqr(n))	oob(out-of-bag) 將各個樹的未采樣樣本作為預(yù)測樣本統(tǒng)計(jì)誤差作為誤分率	可以并行計(jì)算 不需要特征選擇 可以總結(jié)出特征重要性 可以處理缺失數(shù)據(jù) 不需要額外設(shè)計(jì)測試集	在回歸上不能輸出連續(xù)結(jié)果

（2）Boosting之AdaBoost

Boosting的本質(zhì)實(shí)際上是一個加法模型，通過改變訓(xùn)練樣本權(quán)重學(xué)習(xí)多個分類器并進(jìn)行一些線性組合。而Adaboost就是加法模型+指數(shù)損失函數(shù)+前項(xiàng)分布算法。Adaboost就是從弱分類器出發(fā)反復(fù)訓(xùn)練，在其中不斷調(diào)整數(shù)據(jù)權(quán)重或者是概率分布，同時提高前一輪被弱分類器誤分的樣本的權(quán)值。最后用分類器進(jìn)行投票表決（但是分類器的重要性不同）。

（3）Boosting之GBDT

將基分類器變成二叉樹，回歸用二叉回歸樹，分類用二叉分類樹。和上面的Adaboost相比，回歸樹的損失函數(shù)為平方損失，同樣可以用指數(shù)損失函數(shù)定義分類問題。但是對于一般損失函數(shù)怎么計(jì)算呢？GBDT（梯度提升決策樹）是為了解決一般損失函數(shù)的優(yōu)化問題，方法是用損失函數(shù)的負(fù)梯度在當(dāng)前模型的值來模擬回歸問題中殘差的近似值。

注：由于GBDT很容易出現(xiàn)過擬合的問題，所以推薦的GBDT深度不要超過6，而隨機(jī)森林可以在15以上。

（4）GBDT和Random Forest區(qū)別

這個就和上面說的差不多。

（5）Xgboost

這個工具主要有以下幾個特點(diǎn)：

支持線性分類器 可以自定義損失函數(shù)，并且可以用二階偏導(dǎo) 加入了正則化項(xiàng)：葉節(jié)點(diǎn)數(shù)、每個葉節(jié)點(diǎn)輸出score的L2-norm 支持特征抽樣 在一定情況下支持并行，只有在建樹的階段才會用到，每個節(jié)點(diǎn)可以并行的尋找分裂特征。 5、KNN和Kmean

（1）KNN 和Kmean缺點(diǎn)

都屬于惰性學(xué)習(xí)機(jī)制，需要大量的計(jì)算距離過程，速度慢的可以（但是都有相應(yīng)的優(yōu)化方法）。

（2）KNN

KNN不需要進(jìn)行訓(xùn)練，只要對于一個陌生的點(diǎn)利用離其最近的K個點(diǎn)的標(biāo)簽判斷其結(jié)果。KNN相當(dāng)于多數(shù)表決，也就等價于經(jīng)驗(yàn)最小化。而KNN的優(yōu)化方式就是用Kd樹來實(shí)現(xiàn)。

（3）Kmean

要求自定義K個聚類中心，然后人為的初始化聚類中心，通過不斷增加新點(diǎn)變換中心位置得到最終結(jié)果。Kmean的缺點(diǎn)可以用Kmean++方法進(jìn)行一些解決（思想是使得初始聚類中心之間的距離最大化）

6、EM算法、HMM、CRF

這三個放在一起不是很恰當(dāng)，但是有互相有關(guān)聯(lián)，所以就放在這里一起說了。注意重點(diǎn)關(guān)注算法的思想。

（1）EM算法

EM算法是用于含有隱變量模型的極大似然估計(jì)或者極大后驗(yàn)估計(jì)，有兩步組成：E步，求期望（expectation）；M步，求極大（maxmization）。本質(zhì)上EM算法還是一個迭代算法，通過不斷用上一代參數(shù)對隱變量的估計(jì)來對當(dāng)前變量進(jìn)行計(jì)算，直到收斂。

注意：EM算法是對初值敏感的，而且EM是不斷求解下界的極大化逼近求解對數(shù)似然函數(shù)的極大化的算法，也就是說EM算法不能保證找到全局最優(yōu)值。對于EM的導(dǎo)出方法也應(yīng)該掌握。

（2）HMM算法

隱馬爾可夫模型是用于標(biāo)注問題的生成模型。有幾個參數(shù)（ππ ，A，B）：初始狀態(tài)概率向量ππ ，狀態(tài)轉(zhuǎn)移矩陣A，觀測概率矩陣B。稱為馬爾科夫模型的三要素。

馬爾科夫三個基本問題：

概率計(jì)算問題：給定模型和觀測序列，計(jì)算模型下觀測序列輸出的概率。–》前向后向算法 學(xué)習(xí)問題：已知觀測序列，估計(jì)模型參數(shù)，即用極大似然估計(jì)來估計(jì)參數(shù)。–》Baum-Welch(也就是EM算法)和極大似然估計(jì)。 預(yù)測問題：已知模型和觀測序列，求解對應(yīng)的狀態(tài)序列。–》近似算法（貪心算法）和維比特算法（動態(tài)規(guī)劃求最優(yōu)路徑）

（3）條件隨機(jī)場CRF

給定一組輸入隨機(jī)變量的條件下另一組輸出隨機(jī)變量的條件概率分布密度。條件隨機(jī)場假設(shè)輸出變量構(gòu)成馬爾科夫隨機(jī)場，而我們平時看到的大多是線性鏈條隨機(jī)場，也就是由輸入對輸出進(jìn)行預(yù)測的判別模型。求解方法為極大似然估計(jì)或正則化的極大似然估計(jì)。

之所以總把HMM和CRF進(jìn)行比較，主要是因?yàn)镃RF和HMM都利用了圖的知識，但是CRF利用的是馬爾科夫隨機(jī)場（無向圖），而HMM的基礎(chǔ)是貝葉斯網(wǎng)絡(luò)（有向圖）。而且CRF也有：概率計(jì)算問題、學(xué)習(xí)問題和預(yù)測問題。大致計(jì)算方法和HMM類似，只不過不需要EM算法進(jìn)行學(xué)習(xí)問題。

（4）HMM和CRF對比

其根本還是在于基本的理念不同，一個是生成模型，一個是判別模型，這也就導(dǎo)致了求解方式的不同。

7、常見基礎(chǔ)問題

（1）數(shù)據(jù)歸一化（或者標(biāo)準(zhǔn)化，注意歸一化和標(biāo)準(zhǔn)化不同）的原因

要強(qiáng)調(diào)：能不歸一化最好不歸一化，之所以進(jìn)行數(shù)據(jù)歸一化是因?yàn)楦骶S度的量綱不相同。而且需要看情況進(jìn)行歸一化。

有些模型在各維度進(jìn)行了不均勻的伸縮后，最優(yōu)解與原來不等價（如SVM）需要?dú)w一化。 有些模型伸縮有與原來等價，如：LR則不用歸一化，但是實(shí)際中往往通過迭代求解模型參數(shù)，如果目標(biāo)函數(shù)太扁（想象一下很扁的高斯模型）迭代算法會發(fā)生不收斂的情況，所以最壞進(jìn)行數(shù)據(jù)歸一化。

補(bǔ)充：其實(shí)本質(zhì)是由于loss函數(shù)不同造成的，SVM用了歐拉距離，如果一個特征很大就會把其他的維度dominated。而LR可以通過權(quán)重調(diào)整使得損失函數(shù)不變。

（2）衡量分類器的好壞：

這里首先要知道TP、FN（真的判成假的）、FP（假的判成真）、TN四種（可以畫一個表格）。

幾種常用的指標(biāo)：

精度precision = TP/(TP+FP) = TP/~P （~p為預(yù)測為真的數(shù)量） 召回率 recall = TP/(TP+FN) = TP/ P F1值： 2/F1 = 1/recall + 1/precision ROC曲線：ROC空間是一個以偽陽性率（FPR，false positive rate）為X軸，真陽性率（TPR, true positive rate）為Y軸的二維坐標(biāo)系所代表的平面。其中真陽率TPR = TP / P = recall， 偽陽率FPR = FP / N

（3）SVD和PCA

PCA的理念是使得數(shù)據(jù)投影后的方差最大，找到這樣一個投影向量，滿足方差最大的條件即可。而經(jīng)過了去除均值的操作之后，就可以用SVD分解來求解這樣一個投影向量，選擇特征值最大的方向。

（4）防止過擬合的方法

過擬合的原因是算法的學(xué)習(xí)能力過強(qiáng)；一些假設(shè)條件（如樣本獨(dú)立同分布）可能是不成立的；訓(xùn)練樣本過少不能對整個空間進(jìn)行分布估計(jì)。

處理方法：

早停止：如在訓(xùn)練中多次迭代后發(fā)現(xiàn)模型性能沒有顯著提高就停止訓(xùn)練 數(shù)據(jù)集擴(kuò)增：原有數(shù)據(jù)增加、原有數(shù)據(jù)加隨機(jī)噪聲、重采樣 正則化 交叉驗(yàn)證 特征選擇/特征降維

（5）數(shù)據(jù)不平衡問題

這主要是由于數(shù)據(jù)分布不平衡造成的。解決方法如下：

采樣，對小樣本加噪聲采樣，對大樣本進(jìn)行下采樣 進(jìn)行特殊的加權(quán)，如在Adaboost中或者SVM中 采用對不平衡數(shù)據(jù)集不敏感的算法 改變評價標(biāo)準(zhǔn)：用AUC/ROC來進(jìn)行評價 采用Bagging/Boosting/ensemble等方法 考慮數(shù)據(jù)的先驗(yàn)分布

機(jī)器學(xué)習(xí)面試問題準(zhǔn)備（進(jìn)階）

這部分主要是針對上面問題的一些更細(xì)節(jié)的補(bǔ)充，包括公式的推倒思路、模型的基本構(gòu)成、細(xì)節(jié)問題的分析等等。一、問題雜燴

1、PCA的第二主成分

第二個主成分時域第一成分方向正教的差異性次大方向。

2、什么時候用組合的學(xué)習(xí)模型

只有當(dāng)各個模型之間沒有相關(guān)性的時候組合起來是最好用的。但是一般來說，弱相關(guān)的模型組合比較好用。

3、多重共線性

多重共線性是指當(dāng)兩個特征的相關(guān)性很大的時候，會對參數(shù)模型造成非常大的影響。可以用相關(guān)分析判斷多重共線性的存在性。

4、什么時候用L2優(yōu)于L1

如果多個變量都是一些具有小尺度或中等尺度影響的時候用L2比較好，如果個別變量影響很大的時候用L1。其實(shí)也可以結(jié)合起來使用。

5、交叉驗(yàn)證的參數(shù)選擇問題

我們通常進(jìn)行參數(shù)選擇的時候都是用網(wǎng)格法做的，但是這樣其實(shí)也是有弊端的，索性可以用隨機(jī)取樣的方式逼近最優(yōu)參數(shù)。

6、如果缺失值超過30%要怎么辦？

可以把缺失值單獨(dú)組成一類。

二、模型流程和公式推導(dǎo)

1、PCA傳統(tǒng)計(jì)算流程：

去除均值 計(jì)算協(xié)方差矩陣 計(jì)算特征值和特征向量 特征值從大到小排序 保留前N個特征向量 投影重構(gòu)（記得吧去除的均值還回去）

或者干脆去均值后用SVD計(jì)算

2、離散數(shù)據(jù)下的生成模型

（1）貝葉斯概念

我們都知道概率學(xué)派和貝葉斯學(xué)派的不同，現(xiàn)在我們從貝葉斯的角度上考慮問題。對于一個問題，通常要考慮其先驗(yàn)概率，這是因?yàn)閷τ谀承?shù)據(jù)不足或有某些問題的情況下，單純考慮似然函數(shù)是不夠的，還需要引入假設(shè)先驗(yàn)給一個主觀的先驗(yàn)概率，而且在真正分析的時候應(yīng)該引入假設(shè)空間D的概念（滿足要求的所有假設(shè)），后驗(yàn)就相當(dāng)于給定假設(shè)空間D下的其中某一個假設(shè)D的概率P(h|D)。

其實(shí)本質(zhì)上最大后驗(yàn)估計(jì)MAP是等價于最大似然估計(jì)的，即數(shù)據(jù)點(diǎn)足夠多的時候會淹沒先驗(yàn)。

利用得到的后驗(yàn)進(jìn)行預(yù)測需要后驗(yàn)預(yù)測分布（Posterior pordictive distribution），方法是對每一個獨(dú)立假設(shè)的加權(quán)均值（稱之為Bayes model averaging）

我們使用MAP的時候都要對先驗(yàn)進(jìn)行一些假設(shè)，而這些假設(shè)對應(yīng)的先驗(yàn)函數(shù)和似然函數(shù)通常是共軛的，這樣方便計(jì)算，關(guān)于共軛分布的概念其實(shí)很簡單，常用的幾個了解就可以。

（2）樸素貝葉斯分類器

樸素貝葉斯是最簡單的分類器之一了，根本是假設(shè)各個特征之間是獨(dú)立同分布的，也就是說P(X|y)=P(x1|y)*…P(xn|y)。我們可以假設(shè)特征x的分布，比如：在特征為real-value的時候，可以假設(shè)特征分布為高斯分布、在特征為二元特征的時候假設(shè)為Bernoulli分布、在類別特征的時候假設(shè)為multinoulli分布（我們通常見到的）。通常我們看到的Laplace平滑實(shí)際上是對參數(shù)的先驗(yàn)分布（但是這個先驗(yàn)可以只看出一個附加條件）。

具體的關(guān)于樸素貝葉斯的推導(dǎo)和使用見這里。補(bǔ)充一點(diǎn)，貝葉斯是可以進(jìn)行在線學(xué)習(xí)的。但是要知道貝葉斯其實(shí)可以變得更復(fù)雜。

3、Gaussian高斯模型的高斯判別分析

對于多元高斯分布來說，他的共軛分布也是多元高斯分布，關(guān)于多元高斯分布的最大似然結(jié)果可以自己查查資料。這里主要說的是高斯判別分析。

高斯判別分析假設(shè)p(X,y=c,θθ )= N(X|μμ ,ΣΣ )服從多元高斯分布，當(dāng)ΣΣ 為對角矩陣的時候起始就是上面說的樸素貝葉斯了。我們通常說到的Linear discriminant analysis（LDA）其實(shí)就是高斯判別模型的一種，假設(shè)所有類別的協(xié)方差矩陣都是相同的，這時求解后驗(yàn)分布的時候得到的就是LDA。當(dāng)然協(xié)方差矩陣不同的時候?qū)?yīng)的QDA（Quadratic discriminant analysis,二次判別分析）。這個相當(dāng)于我們對于通常定義LDA**最大化類間距最小化類內(nèi)距離**實(shí)際上是等價的。

4、Logistic regression和指數(shù)分布族

這里將會從兩個角度看一下邏輯回歸的推導(dǎo)過程。

（1）邏輯回歸推導(dǎo)

這個很簡單，網(wǎng)上隨便找一個都有，就是求解MLE而已。但是除了二元的邏輯回歸還應(yīng)該知道多元邏輯回歸的條件概率由sigmoid變?yōu)閟oftmax。

（2）邏輯回歸的廣義線性模型解釋

首先要知道什么是廣義線性模型：廣義線性模型是指輸出概率是指數(shù)分布族的y|x;θ～ExpoentialFamily(η)，而且指數(shù)分布族的自然參數(shù)η的是x的線性組合。這個我掌握的不是很好，但是如果面試的時候講出來效果應(yīng)該不錯。

（3）邏輯回歸輸出值是不是概率

答案是肯定的，解釋在這里，其實(shí)用廣義線性模型的思路說更好，但是實(shí)在是對概念掌握的不好。

5、SVM支持向量機(jī)

（1）支持向量機(jī)的公式推導(dǎo)，要詳細(xì)到KKT條件。

（2）可以進(jìn)一步結(jié)合核函數(shù)和GLM引出核機(jī)的概念。

6、概率圖模型

有向圖、無向圖等

三、重要概念

1、監(jiān)督學(xué)習(xí)的生成模型和判別模型

這可以說是一個最基礎(chǔ)的問題，但是深挖起來又很復(fù)雜，面試的時候應(yīng)該說出幾個有亮點(diǎn)的部分。

（1）基本說法

生成模型是由數(shù)據(jù)學(xué)習(xí)聯(lián)合概率分布P(X,Y)，然后再求出條件概率分布P(Y|X)，典型的生成模型有樸素貝葉斯和馬爾科夫模型。

判別模型就是直接學(xué)習(xí)判別函數(shù)或者是條件概率分布，應(yīng)該是更直接一些。兩者各有優(yōu)缺點(diǎn)。

（2）進(jìn)階區(qū)分

* 應(yīng)該說生成模型的假設(shè)性更強(qiáng)一些，因?yàn)橥ǔＪ菑暮篁?yàn)分布的角度思考問題，通常對x的分布進(jìn)行了一些假設(shè)。

* 訓(xùn)練過程中，對于判別模型通常是最大化對數(shù)似然，對生成模型則是最大化聯(lián)合對數(shù)似然函數(shù)

* 因?yàn)樯赡Ｐ蛯τ谔卣鞯姆植级甲龀隽艘欢ǖ募僭O(shè)（如高斯判別模型假設(shè)特征分布滿足多元高斯分布），所以如果對于特征的分布估計(jì)比較正確的情況下，生成模型的速度更好準(zhǔn)確性也更高。

* 生成模型在訓(xùn)練數(shù)據(jù)的時候?qū)τ诿恳活悢?shù)據(jù)的都是獨(dú)立估計(jì)的（也就是每一類的參數(shù)不同），這也就說明如果有新類別加入的情況下，是不需要對原有類別進(jìn)行重新訓(xùn)練的

* 對于半監(jiān)督學(xué)習(xí)，生成模型往往更有用

* 生成模型有一個大的缺點(diǎn)就是不能對特征進(jìn)行某些預(yù)處理（如特征映射），因?yàn)轭A(yù)處理后的數(shù)據(jù)分布往往有了很大的變化。

2、頻率學(xué)派的一些基本理論

（1）期望損失（風(fēng)險函數(shù)）、經(jīng)驗(yàn)損失（經(jīng)驗(yàn)風(fēng)險）、結(jié)構(gòu)風(fēng)險

期望損失：理論上知道模型后得到的平均損失較期望損失（依賴于真實(shí)分布），但是模型正是我們要求的

經(jīng)驗(yàn)損失：經(jīng)驗(yàn)損失指針對模型的抽樣值（訓(xùn)練集）進(jìn)行平均的損失估計(jì)，根據(jù)大數(shù)定律當(dāng)訓(xùn)練數(shù)據(jù)足夠的時候經(jīng)驗(yàn)損失和期望損失是等價的

結(jié)構(gòu)風(fēng)險：經(jīng)驗(yàn)損失是假設(shè)經(jīng)驗(yàn)分布和自然分布相同時得到的，但是這樣會造成過擬合，所以引入了正則化，懲罰模型復(fù)雜度。

（2）極大似然MLE、極大后驗(yàn)MAP

因?yàn)槲覀冇械臅r候利用經(jīng)驗(yàn)損失求解的時候會遇到不好求解的問題（如不連續(xù)0-1）這是可以用對數(shù)極大似然估計(jì)等價的對參數(shù)進(jìn)行分析。

同理最大后驗(yàn)利用先驗(yàn)概率達(dá)到懲罰模型的作用。如l2-norm嶺回歸對應(yīng)高斯先驗(yàn)、L1對應(yīng)拉普拉斯先驗(yàn)。