機(jī)器學(xué)習(xí)（machinelearning）是一門多領(lǐng)域交叉學(xué)科，涉及了概率論、統(tǒng)計(jì)學(xué)、算法復(fù)雜度等多門學(xué)科。專門研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人的學(xué)習(xí)行為，它能夠發(fā)現(xiàn)和挖掘數(shù)據(jù)所包含的潛在價(jià)值。機(jī)器學(xué)習(xí)已經(jīng)成為了人工智能的一個(gè)分支，通過(guò)自學(xué)習(xí)算法，發(fā)現(xiàn)和挖掘數(shù)據(jù)潛在的規(guī)律，從而對(duì)未知的數(shù)據(jù)進(jìn)行預(yù)測(cè)。機(jī)器學(xué)習(xí)已經(jīng)廣泛的運(yùn)用在了，計(jì)算機(jī)科學(xué)研究、自然語(yǔ)言處理、機(jī)器視覺(jué)、語(yǔ)音、游戲等。機(jī)器學(xué)習(xí)的方法主要分為三種，監(jiān)督學(xué)習(xí)（supervisedlearging）、無(wú)監(jiān)督學(xué)習(xí)（unsupervisedlearning）、強(qiáng)化學(xué)習(xí)（reinforcementlearning），下面將介紹這三種方法的本質(zhì)區(qū)別以及它們的應(yīng)用領(lǐng)域。

　　一、監(jiān)督學(xué)習(xí)

　　訓(xùn)練過(guò)程

　　上圖展示了監(jiān)督學(xué)習(xí)訓(xùn)練模型的過(guò)程，在監(jiān)督學(xué)習(xí)中的訓(xùn)練數(shù)據(jù)是帶類標(biāo)的。監(jiān)督學(xué)習(xí)通過(guò)使用有類標(biāo)的訓(xùn)練數(shù)據(jù)構(gòu)建模型，我們可以通過(guò)訓(xùn)練得到的模型對(duì)未知的數(shù)據(jù)進(jìn)行預(yù)測(cè)。比如，在對(duì)手寫數(shù)字識(shí)別所使用的機(jī)器學(xué)習(xí)算法就屬于監(jiān)督學(xué)習(xí)，在訓(xùn)練模型之前，我們需要先定義那張圖片表示的是數(shù)字幾，以便計(jì)算機(jī)從數(shù)據(jù)中提取特征更好的像類標(biāo)靠近。監(jiān)督學(xué)習(xí)可以被分為分類和回歸，像上面手寫數(shù)字的識(shí)別就屬于監(jiān)督學(xué)習(xí)中的分類，像房間的預(yù)測(cè)就屬于回歸。

　　1、分類

　　分類是基于對(duì)于已知數(shù)據(jù)（帶類標(biāo)）的學(xué)習(xí)，實(shí)現(xiàn)對(duì)新樣本類標(biāo)的預(yù)測(cè)。類標(biāo)是離散的、無(wú)序的值。像對(duì)于垃圾郵件的分類就屬于二分類，其中五角星表示非垃圾郵件而原表示垃圾郵件，而我們所需要訓(xùn)練的模型就是圖中的直線，能夠?qū)⒗]件和分垃圾郵件進(jìn)行區(qū)分。我們可以將橫軸和縱軸理解為對(duì)于區(qū)分郵件的兩個(gè)特征，可以發(fā)現(xiàn)這些數(shù)據(jù)都是離散的。上面所提到的手寫數(shù)字的識(shí)別屬于多分類。

　　分類

　　2、回歸

　　回歸是針對(duì)連續(xù)型輸出變量進(jìn)行預(yù)測(cè)，我們通過(guò)從大量的數(shù)據(jù)中尋找自變量（輸入）和相應(yīng)連續(xù)的因變量（輸出）之間的關(guān)系，通過(guò)學(xué)習(xí)這種關(guān)系來(lái)對(duì)未知的數(shù)據(jù)進(jìn)行預(yù)測(cè)。如下圖，通過(guò)自變量和因變量來(lái)擬合一條直線，使得訓(xùn)練數(shù)據(jù)與擬合直線之間的距離最短，最常用的距離是采用平均平方距離。通過(guò)對(duì)訓(xùn)練數(shù)據(jù)的分析我們可以獲取到這條直線的斜率和截距，從而可以對(duì)于未知數(shù)據(jù)進(jìn)行預(yù)測(cè)。

　　回歸

　　二、強(qiáng)化學(xué)習(xí)

　　強(qiáng)化學(xué)習(xí)是通過(guò)構(gòu)建一個(gè)系統(tǒng)（agent），在與環(huán)境（environment）交互的過(guò)程中提高系統(tǒng)的性能。環(huán)境的當(dāng)前狀態(tài)信息會(huì)包括一個(gè)反饋信號(hào)，我們可以通過(guò)這個(gè)反饋信號(hào)對(duì)當(dāng)前的系統(tǒng)進(jìn)行評(píng)價(jià)改善系統(tǒng)。通過(guò)與環(huán)境的交互，agent可以通過(guò)強(qiáng)化學(xué)習(xí)來(lái)得到一系列行為，通過(guò)對(duì)激勵(lì)系統(tǒng)的設(shè)計(jì)使得正向反饋?zhàn)畲蟆?qiáng)化學(xué)習(xí)經(jīng)常被使用在游戲領(lǐng)域，比如圍棋比賽，系統(tǒng)會(huì)根據(jù)當(dāng)前棋盤上的局態(tài)來(lái)決定下一步的位置，通過(guò)游戲結(jié)束時(shí)的勝負(fù)來(lái)作為激勵(lì)信號(hào)。

　　強(qiáng)化學(xué)習(xí)

　　三、無(wú)監(jiān)督學(xué)習(xí)

　　無(wú)監(jiān)督學(xué)習(xí)所處理的是無(wú)類標(biāo)或者數(shù)據(jù)的總體趨勢(shì)不明朗，通過(guò)無(wú)監(jiān)督學(xué)習(xí)我們可以將這些不知道類標(biāo)和輸出標(biāo)量以及沒(méi)有反饋信號(hào)的情況下，來(lái)尋找數(shù)據(jù)中所潛在的規(guī)律。無(wú)監(jiān)督學(xué)習(xí)可以分為聚類和降維。

　　1、聚類

　　聚類屬于一種探索性的數(shù)據(jù)分析技術(shù)，在沒(méi)有任何已知信息（類標(biāo)、輸出變量、反饋信號(hào)）的情況下，我們可以將數(shù)據(jù)劃分為簇。在分析數(shù)據(jù)的時(shí)候，所劃分的每一個(gè)簇中的數(shù)據(jù)都有一定的相似度，而不同簇之間具有較大的區(qū)別。

　　聚類

　　2、降維

　　在實(shí)際情況中所處理的數(shù)據(jù)都是高維的（成百上千），那么這將會(huì)導(dǎo)致我們每次所處理的數(shù)據(jù)量是非常的龐大，而存儲(chǔ)空間通常都是有限的。無(wú)監(jiān)督的降維技術(shù)經(jīng)常被使用在數(shù)據(jù)特征的預(yù)處理中，通過(guò)降維技術(shù)我們可以去掉數(shù)據(jù)中的噪聲，以及不同維度中所存在的相似特征，最大程度上在保留數(shù)據(jù)的重要信息情況下將數(shù)據(jù)壓縮到一個(gè)低維的空間中，但同時(shí)也還是會(huì)降低算法的準(zhǔn)確性。