[[206602]] 

理所當(dāng)然地使用默認(rèn)損失函數(shù)

在剛?cè)腴T(mén)的時(shí)候，均方誤差作為損失函數(shù)是很好的默認(rèn)選擇。但是當(dāng)需要處理現(xiàn)實(shí)問(wèn)題的時(shí)候，這種未經(jīng)專(zhuān)門(mén)設(shè)計(jì)的損失函數(shù)很少能給出最優(yōu)解。

拿欺詐檢測(cè)為例。為了與你真正的商業(yè)目標(biāo)一致，需要按照欺詐造成的損失美元金額的比例懲罰假負(fù)類(lèi)。使用均方誤差能給你一個(gè)還不錯(cuò)的結(jié)果，但不會(huì)是當(dāng)前最佳的結(jié)果。

要點(diǎn)：每一次都自定義損失函數(shù)，使之緊密匹配你的目標(biāo)。

對(duì)所有問(wèn)題都使用一種算法/方法

很多人一旦完成了入門(mén)教程之后，就開(kāi)始在所有的案例中都使用同一種算法。這很常見(jiàn)，他們覺(jué)得這種算法的效果和其它算法是一樣的。這種假設(shè)是很糟糕的，最終會(huì)帶來(lái)很差的結(jié)果。

解決辦法是讓數(shù)據(jù)為你選擇模型。當(dāng)你把數(shù)據(jù)預(yù)處理之后，將其饋送到多個(gè)不同的模型中去，看看結(jié)果如何。你將會(huì)了解哪些模型最適用，而哪些模型并不適合。

要點(diǎn)：如果你一直使用同一種算法，這可能意味著你的結(jié)果并不是最好的。

忽略異常值

異常值有時(shí)候很重要，有時(shí)候又可以忽略不計(jì)，視情況而定。以收入預(yù)測(cè)為例，有時(shí)候收入會(huì)突然出現(xiàn)很大的變動(dòng)，觀察這種現(xiàn)象并了解其原因是很有幫助的。有時(shí)候異常值由某種誤差造成，那么這時(shí)可以放心地忽略它們，并將其從你的數(shù)據(jù)中刪除。

從模型的角度來(lái)看，有些模型對(duì)異常值更加敏感。以 Adaboost 為例，它會(huì)將異常值當(dāng)做重要的例子，并給予異常值極大的權(quán)重，而決策樹(shù)可能只是簡(jiǎn)單的把異常值當(dāng)做一個(gè)錯(cuò)誤分類(lèi)(false classification)。

要點(diǎn)：每一次開(kāi)始工作之前，先仔細(xì)觀察數(shù)據(jù)，決定異常值是否應(yīng)該被忽略，如果無(wú)法決定，就更仔細(xì)地觀察。

未正確處理周期特征

一天 24 小時(shí)、一周七天、一年 12 個(gè)月，以及風(fēng)向都是周期特征。很多機(jī)器學(xué)習(xí)新手工程師不知道把這些特征轉(zhuǎn)換成表示能夠保存信息，如 23 時(shí)和 0 時(shí)很接近。

以小時(shí)為例，最佳處理方式是計(jì)算它的 sin 和 cos，這樣你可以將該周期特征表示為一個(gè)圓的 (x,y) 坐標(biāo)。在以這種方式表示的時(shí)間中，23 時(shí)和 0 時(shí)就是在數(shù)值上緊挨著的兩個(gè)數(shù)，僅此而已。

要點(diǎn)：如果你在研究中遇到周期特征，但沒(méi)有將其轉(zhuǎn)換成表示，那你就是在給模型添加垃圾數(shù)據(jù)。

未經(jīng)標(biāo)準(zhǔn)化的 L1/L2 正則化

L1 和 L2 正則化懲罰較大的系數(shù)，是一種對(duì)線(xiàn)性或 logistic 回歸進(jìn)行正則化的常用方式。但是，很多機(jī)器學(xué)習(xí)工程師沒(méi)有意識(shí)到使用正則化之前對(duì)特征進(jìn)行標(biāo)準(zhǔn)化的重要性。

假設(shè)你有一個(gè)線(xiàn)性回歸模型，其中一個(gè)特征是「交易金額」。如果交易金額的單位是美元，那么它的系數(shù)應(yīng)該是單位為美分的系數(shù)的 100 倍。這可能會(huì)引起偏差，使模型懲罰實(shí)際較小的特征。為了避免該問(wèn)題，需要將這些特征進(jìn)行標(biāo)準(zhǔn)化，這樣正則化對(duì)于所有特征都是平等的。

要點(diǎn)：正則化很好用，但是如果你不把特征標(biāo)準(zhǔn)化，會(huì)出現(xiàn)很讓人頭疼的問(wèn)題。

把線(xiàn)性回歸或 logistic 回歸的系數(shù)絕對(duì)值當(dāng)作判斷特征重要性的依據(jù)

很多現(xiàn)成的線(xiàn)性回歸器為每個(gè)系數(shù)返回 p 值，一些機(jī)器學(xué)習(xí)新手工程師認(rèn)為對(duì)于線(xiàn)性模型而言，系數(shù)的值越大，則該特征越重要。這并不準(zhǔn)確，因?yàn)樽兞康拇笮?huì)改變系數(shù)的絕對(duì)值。如果特征是共線(xiàn)的，則系數(shù)可以從一個(gè)特征轉(zhuǎn)換到另一個(gè)特征。數(shù)據(jù)集的特征越多，特征是共線(xiàn)的可能性就越大，這種對(duì)特征重要性的簡(jiǎn)單解釋的可信度就越低。

要點(diǎn)：了解哪些特征對(duì)結(jié)果的影響力最大非常重要，但是僅憑系數(shù)無(wú)法確定。

做一些項(xiàng)目并且獲得好的結(jié)果，感覺(jué)就像贏了一百萬(wàn)!你努力工作，研究結(jié)果證明你做的不錯(cuò)，但是和任何行業(yè)一樣，魔鬼總是隱藏在細(xì)節(jié)中，精密的圖表也可能隱藏偏差和誤差。本文列出的錯(cuò)誤并不是全部，只是想刺激讀者思考你的解決方案中可能隱藏哪些細(xì)微問(wèn)題。要想獲取好的結(jié)果，按照流程工作很重要，并且仔細(xì)檢查確保不犯常見(jiàn)錯(cuò)誤。