機器學(xué)習(xí)（machinelearning）是一門多領(lǐng)域交叉學(xué)科，涉及了概率論、統(tǒng)計學(xué)、算法復(fù)雜度等多門學(xué)科。專門研究計算機怎樣模擬或?qū)崿F(xiàn)人的學(xué)習(xí)行為，它能夠發(fā)現(xiàn)和挖掘數(shù)據(jù)所包含的潛在價值。機器學(xué)習(xí)已經(jīng)成為了人工智能的一個分支，通過自學(xué)習(xí)算法，發(fā)現(xiàn)和挖掘數(shù)據(jù)潛在的規(guī)律，從而對未知的數(shù)據(jù)進行預(yù)測。機器學(xué)習(xí)已經(jīng)廣泛的運用在了，計算機科學(xué)研究、自然語言處理、機器視覺、語音、游戲等。機器學(xué)習(xí)的方法主要分為三種，監(jiān)督學(xué)習(xí)（supervisedlearging）、無監(jiān)督學(xué)習(xí)（unsupervisedlearning）、強化學(xué)習(xí)（reinforcementlearning），下面將介紹這三種方法的本質(zhì)區(qū)別以及它們的應(yīng)用領(lǐng)域。

　　一、監(jiān)督學(xué)習(xí)

　　訓(xùn)練過程

　　上圖展示了監(jiān)督學(xué)習(xí)訓(xùn)練模型的過程，在監(jiān)督學(xué)習(xí)中的訓(xùn)練數(shù)據(jù)是帶類標的。監(jiān)督學(xué)習(xí)通過使用有類標的訓(xùn)練數(shù)據(jù)構(gòu)建模型，我們可以通過訓(xùn)練得到的模型對未知的數(shù)據(jù)進行預(yù)測。比如，在對手寫數(shù)字識別所使用的機器學(xué)習(xí)算法就屬于監(jiān)督學(xué)習(xí)，在訓(xùn)練模型之前，我們需要先定義那張圖片表示的是數(shù)字幾，以便計算機從數(shù)據(jù)中提取特征更好的像類標靠近。監(jiān)督學(xué)習(xí)可以被分為分類和回歸，像上面手寫數(shù)字的識別就屬于監(jiān)督學(xué)習(xí)中的分類，像房間的預(yù)測就屬于回歸。

　　1、分類

　　分類是基于對于已知數(shù)據(jù)（帶類標）的學(xué)習(xí)，實現(xiàn)對新樣本類標的預(yù)測。類標是離散的、無序的值。像對于垃圾郵件的分類就屬于二分類，其中五角星表示非垃圾郵件而原表示垃圾郵件，而我們所需要訓(xùn)練的模型就是圖中的直線，能夠?qū)⒗]件和分垃圾郵件進行區(qū)分。我們可以將橫軸和縱軸理解為對于區(qū)分郵件的兩個特征，可以發(fā)現(xiàn)這些數(shù)據(jù)都是離散的。上面所提到的手寫數(shù)字的識別屬于多分類。

　　分類

　　2、回歸

　　回歸是針對連續(xù)型輸出變量進行預(yù)測，我們通過從大量的數(shù)據(jù)中尋找自變量（輸入）和相應(yīng)連續(xù)的因變量（輸出）之間的關(guān)系，通過學(xué)習(xí)這種關(guān)系來對未知的數(shù)據(jù)進行預(yù)測。如下圖，通過自變量和因變量來擬合一條直線，使得訓(xùn)練數(shù)據(jù)與擬合直線之間的距離最短，最常用的距離是采用平均平方距離。通過對訓(xùn)練數(shù)據(jù)的分析我們可以獲取到這條直線的斜率和截距，從而可以對于未知數(shù)據(jù)進行預(yù)測。

　　回歸

　　二、強化學(xué)習(xí)

　　強化學(xué)習(xí)是通過構(gòu)建一個系統(tǒng)（agent），在與環(huán)境（environment）交互的過程中提高系統(tǒng)的性能。環(huán)境的當前狀態(tài)信息會包括一個反饋信號，我們可以通過這個反饋信號對當前的系統(tǒng)進行評價改善系統(tǒng)。通過與環(huán)境的交互，agent可以通過強化學(xué)習(xí)來得到一系列行為，通過對激勵系統(tǒng)的設(shè)計使得正向反饋最大。強化學(xué)習(xí)經(jīng)常被使用在游戲領(lǐng)域，比如圍棋比賽，系統(tǒng)會根據(jù)當前棋盤上的局態(tài)來決定下一步的位置，通過游戲結(jié)束時的勝負來作為激勵信號。

　　強化學(xué)習(xí)

　　三、無監(jiān)督學(xué)習(xí)

　　無監(jiān)督學(xué)習(xí)所處理的是無類標或者數(shù)據(jù)的總體趨勢不明朗，通過無監(jiān)督學(xué)習(xí)我們可以將這些不知道類標和輸出標量以及沒有反饋信號的情況下，來尋找數(shù)據(jù)中所潛在的規(guī)律。無監(jiān)督學(xué)習(xí)可以分為聚類和降維。

　　1、聚類

　　聚類屬于一種探索性的數(shù)據(jù)分析技術(shù)，在沒有任何已知信息（類標、輸出變量、反饋信號）的情況下，我們可以將數(shù)據(jù)劃分為簇。在分析數(shù)據(jù)的時候，所劃分的每一個簇中的數(shù)據(jù)都有一定的相似度，而不同簇之間具有較大的區(qū)別。

　　聚類

　　2、降維

　　在實際情況中所處理的數(shù)據(jù)都是高維的（成百上千），那么這將會導(dǎo)致我們每次所處理的數(shù)據(jù)量是非常的龐大，而存儲空間通常都是有限的。無監(jiān)督的降維技術(shù)經(jīng)常被使用在數(shù)據(jù)特征的預(yù)處理中，通過降維技術(shù)我們可以去掉數(shù)據(jù)中的噪聲，以及不同維度中所存在的相似特征，最大程度上在保留數(shù)據(jù)的重要信息情況下將數(shù)據(jù)壓縮到一個低維的空間中，但同時也還是會降低算法的準確性。