在之前格物匯的文章中，我們介紹了工業(yè)數(shù)據(jù)預(yù)處理的方法以及特征工程的基本知識(shí)，今天要帶大家來(lái)了解如何做特征構(gòu)建。

特征構(gòu)建常用方法

特征構(gòu)建的常用方法是屬性分割和結(jié)合，這一般根據(jù)我們具體的問(wèn)題所決定。我們通過(guò)具體的應(yīng)用場(chǎng)景來(lái)看看：

時(shí)間列處理

時(shí)間戳屬性通常需要分離成多個(gè)維度比如年、月、日、小時(shí)、分鐘、秒鐘。通常時(shí)間序列數(shù)據(jù)會(huì)含有一定的趨勢(shì)和周期性，這時(shí)需要我們?nèi)?/span>構(gòu)建趨勢(shì)因子和周期因子。

分解類別屬性

一些屬性是類別型而不是數(shù)值型，舉一個(gè)簡(jiǎn)單的例子，由{紅，綠、藍(lán)}組成的顏色屬性，最常用的方式是把每個(gè)類別屬性轉(zhuǎn)換成二元屬性，即從{0,1}取一個(gè)值。因此基本上增加的屬性等于相應(yīng)數(shù)目的類別，并且對(duì)于你數(shù)據(jù)集中的每個(gè)實(shí)例，只有一個(gè)是1（其他的為0），這也就是獨(dú)熱（one-hot)編碼方式。我們?cè)谇懊娴奈恼轮薪榻B過(guò)了，在此不再贅述。

分箱和分區(qū)

有時(shí)候，將數(shù)值型屬性轉(zhuǎn)換成類別呈現(xiàn)更有意義，同時(shí)能使算法減少噪聲的干擾，通過(guò)將一定范圍內(nèi)的數(shù)值劃分成確定的塊。舉個(gè)例子，我們預(yù)測(cè)一個(gè)人是否擁有某款衣服，這里年齡是一個(gè)確切的因子。其實(shí)年齡組是更為相關(guān)的因子，所以我們可以將年齡分布劃分成1-10,11-18,19-25,26-40等年齡段，分別表示 幼兒，青少年，青年，中年四個(gè)年齡組，讓相近的年齡組表現(xiàn)出相似的屬性。此外，我們還可以對(duì)分箱，分區(qū)做一些統(tǒng)計(jì)量字段作為數(shù)據(jù)的特征。

只有在了解屬性的領(lǐng)域知識(shí)的基礎(chǔ)，確定屬性能夠劃分成簡(jiǎn)潔的范圍時(shí)分區(qū)才有意義。即所有的數(shù)值落入一個(gè)分區(qū)時(shí)能夠呈現(xiàn)出共同的特征。在實(shí)際應(yīng)用中，當(dāng)你不想讓你的模型總是嘗試區(qū)分值之間是否太近時(shí)，分區(qū)能夠避免出現(xiàn)過(guò)擬合。例如，如果你所感興趣的是將一個(gè)城市作為整體，這時(shí)你可以將所有落入該城市的維度值進(jìn)行整合成一個(gè)整體。分箱也能減小小錯(cuò)誤的影響，通過(guò)將一個(gè)給定值劃入到最近的塊中。如果劃分范圍的數(shù)量和所有可能值相近，或?qū)δ銇?lái)說(shuō)準(zhǔn)確率很重要的話，此時(shí)分箱就不適合了。

交叉特征

交叉特征是特征工程中重要的方法之一，交叉特征是一種很獨(dú)特的方式，它將兩個(gè)或更多的類別屬性組合成一個(gè)。當(dāng)組合的特征要比單個(gè)特征更好時(shí)，這是一項(xiàng)非常有用的技術(shù)。數(shù)學(xué)上來(lái)說(shuō)，是對(duì)類別特征的所有可能值進(jìn)行交叉相乘。當(dāng)然我們不僅僅會(huì)去查找交叉項(xiàng)關(guān)系，還可以去尋找更加復(fù)雜的二次項(xiàng)，三次項(xiàng)乃至更復(fù)雜的關(guān)系，這根據(jù)問(wèn)題求解的需要決定。

經(jīng)度與緯度的組合便是交叉特征的應(yīng)用實(shí)例，一個(gè)相同的經(jīng)度對(duì)應(yīng)了地圖上很多的地方，緯度也是一樣。但是一旦你將經(jīng)度和緯度組合到一起，它們就代表了地理上特定的一塊區(qū)域，區(qū)域中每一部分是擁有著類似的特性。

小結(jié)

一般我們會(huì)收集與問(wèn)題相關(guān)的數(shù)據(jù)作為我們的特征，但是這些特征有時(shí)不足以解釋我們的問(wèn)題，我們還是會(huì)通過(guò)特征構(gòu)建來(lái)增加解釋能力。這其實(shí)是對(duì)數(shù)據(jù)進(jìn)行升維操作，總的來(lái)說(shuō)，特征構(gòu)建可以給我們的模型提供一些關(guān)鍵的信息，來(lái)解決模型解釋能力不足的情況。但如果我們收集的數(shù)據(jù)包含了過(guò)多的特征，如何對(duì)這些特征進(jìn)行提純呢？請(qǐng)繼續(xù)關(guān)注格物匯，我們將在之后的文章中詳細(xì)講解。

本文作者：格創(chuàng)東智 OT團(tuán)隊(duì) （轉(zhuǎn)載請(qǐng)注明來(lái)源及作者）