基本概念

聚類就是一種尋找數(shù)據(jù)之間一種內(nèi)在結(jié)構(gòu)的技術(shù)。聚類把全體數(shù)據(jù)實(shí)例組織成一些相似組，而這些相似組被稱作聚類。處于相同聚類中的數(shù)據(jù)實(shí)例彼此相同，處于不同聚類中的實(shí)例彼此不同。聚類技術(shù)通常又被稱為無(wú)監(jiān)督學(xué)習(xí)，因?yàn)榕c監(jiān)督學(xué)習(xí)不同，在聚類中那些表示數(shù)據(jù)類別的分類或者分組信息是沒(méi)有的。

通過(guò)上述表述，我們可以把聚類定義為將數(shù)據(jù)集中在某些方面具有相似性的數(shù)據(jù)成員進(jìn)行分類組織的過(guò)程。因此，聚類就是一些數(shù)據(jù)實(shí)例的集合，這個(gè)集合中的元素彼此相似，但是它們都與其他聚類中的元素不同。在聚類的相關(guān)文獻(xiàn)中，一個(gè)數(shù)據(jù)實(shí)例有時(shí)又被稱為對(duì)象，因?yàn)楝F(xiàn)實(shí)世界中的一個(gè)對(duì)象可以用數(shù)據(jù)實(shí)例來(lái)描述。同時(shí)，它有時(shí)也被稱作數(shù)據(jù)點(diǎn)（Data Point），因?yàn)槲覀兛梢杂胷 維空間的一個(gè)點(diǎn)來(lái)表示數(shù)據(jù)實(shí)例，其中r 表示數(shù)據(jù)的屬性個(gè)數(shù)。下圖顯示了一個(gè)二維數(shù)據(jù)集聚類過(guò)程，從該圖中可以清楚地看到數(shù)據(jù)聚類過(guò)程。雖然通過(guò)目測(cè)可以十分清晰地發(fā)現(xiàn)隱藏在二維或者三維的數(shù)據(jù)集中的聚類，但是隨著數(shù)據(jù)集維數(shù)的不斷增加，就很難通過(guò)目測(cè)來(lái)觀察甚至是不可能。

SAS聚類分析案例

1 問(wèn)題背景

考慮下面案例，一個(gè)棒球管理員希望根據(jù)隊(duì)員們的興趣相似性將他們進(jìn)行分組。顯然，在該例子中，沒(méi)有響應(yīng)變量。管理者希望能夠方便地識(shí)別出隊(duì)員的分組情況。同時(shí)，他也希望了解不同組之間隊(duì)員之間的差異性。

該案例的數(shù)據(jù)集是在SAMPSIO庫(kù)中的DMABASE數(shù)據(jù)集。下面是數(shù)據(jù)集中的主要的變量的描述信息：

在這個(gè)案例中，設(shè)置TEAM，POSITION，LEAGUE，DIVISION和SALARY變量的模型角色為rejected，設(shè)置SALARY變量的模型角色為rejected是由于它的信息已經(jīng)存儲(chǔ)在LOGSALAR中。在聚類分析和自組織映射圖中是不需要目標(biāo)變量的。如果需要在一個(gè)目標(biāo)變量上識(shí)別分組，可以考慮預(yù)測(cè)建模技術(shù)或者定義一個(gè)分類目標(biāo)。

2 聚類方法概述

聚類分析經(jīng)常和有監(jiān)督分類相混淆，有監(jiān)督分類是為定義的分類響應(yīng)變量預(yù)測(cè)分組或者類別關(guān)系。而聚類分析，從另一方面考慮，它是一種無(wú)監(jiān)督分類技術(shù)。它能夠在所有輸入變量的基礎(chǔ)上識(shí)別出數(shù)據(jù)集中的分組和類別信息。這些組、簇，賦予不同的數(shù)字。然而，聚類數(shù)目不能用來(lái)評(píng)價(jià)類別之間的近似關(guān)系。自組織映射圖嘗試創(chuàng)建聚類，并且在一個(gè)圖上用圖形化的方式繪制出聚類信息，在此處我們并沒(méi)有考慮。

1） 建立初始數(shù)據(jù)流

2） 設(shè)置輸入數(shù)據(jù)源結(jié)點(diǎn)

打開(kāi)輸入數(shù)據(jù)源結(jié)點(diǎn)

從SAMPSIO庫(kù)中選擇DMABASE數(shù)據(jù)集

設(shè)置NAME變量的模型角色為id，TEAM，POSIOTION，LEAGUE，DIVISION和SALARY變量的模型角色為rejected

探索變量的分布和描述性統(tǒng)計(jì)信息

選擇區(qū)間變量選項(xiàng)卡，可以觀察到只有LOGSALAR和SALARY變量有缺失值。選擇類別變量選項(xiàng)卡，可以觀察到?jīng)]有缺失值。在本例中，沒(méi)有涉及到任何類別變量。

關(guān)閉輸入數(shù)據(jù)源結(jié)點(diǎn)，并保存信息。

3） 設(shè)置替代結(jié)點(diǎn)

雖然并不是總是要處理缺失值，但是有時(shí)候缺失值的數(shù)量會(huì)影響聚類結(jié)點(diǎn)產(chǎn)生的聚類解決方案。為了產(chǎn)生初始聚類，聚類結(jié)點(diǎn)往往需要一些完整的觀測(cè)值。當(dāng)缺失值太多的時(shí)候，需要用替代結(jié)點(diǎn)來(lái)處理。雖然這并不是必須的，但是在本例中使用到了。

4） 設(shè)置聚類結(jié)點(diǎn)

打開(kāi)聚類結(jié)點(diǎn)，激活變量選項(xiàng)卡。K-means聚類對(duì)輸入數(shù)據(jù)是敏感的。一般情況下，考慮對(duì)數(shù)據(jù)集進(jìn)行標(biāo)準(zhǔn)化處理。

在變量選項(xiàng)卡，選擇標(biāo)準(zhǔn)偏差單選框

選擇聚類選項(xiàng)卡

觀察到默認(rèn)選擇聚類數(shù)目的方法是自動(dòng)的

關(guān)閉聚類結(jié)點(diǎn)

5） 聚類結(jié)果

在聚類結(jié)點(diǎn)處運(yùn)行流程圖，查看聚類結(jié)果。

6） 限定聚類數(shù)目

打開(kāi)聚類結(jié)點(diǎn)

選擇聚類選項(xiàng)卡

在聚類數(shù)目選擇部分，點(diǎn)擊選擇標(biāo)準(zhǔn)按鈕

輸入最大聚類數(shù)目為10

點(diǎn)擊ok，關(guān)閉聚類結(jié)點(diǎn)

7）結(jié)果解釋

我們可以定義每個(gè)類別的信息，結(jié)合背景識(shí)別每個(gè)類型的特征。選擇箭頭按鈕，

選擇三維聚類圖的某一類別，

在工具欄選擇刷新輸入均值圖圖標(biāo)，

點(diǎn)擊該圖標(biāo)，可以查看該類別的規(guī)范化均值圖

同理，可以根據(jù)該方法對(duì)其他類別進(jìn)行解釋。

8）運(yùn)用Insight結(jié)點(diǎn)

Insight結(jié)點(diǎn)可以用來(lái)比較不同屬性之間的異常。打開(kāi)insight結(jié)點(diǎn)，選擇整個(gè)數(shù)據(jù)集，關(guān)閉結(jié)點(diǎn)。

從insight結(jié)點(diǎn)處運(yùn)行。

變量_SEGMNT_標(biāo)識(shí)類別，distance標(biāo)識(shí)觀測(cè)值到所在類別中心的距離。運(yùn)用insight窗口的analyze工具評(píng)估和比較聚類結(jié)果。

首先把_SEGMNT_的度量方式從interval轉(zhuǎn)換成nominal。

聚類應(yīng)用

在商業(yè)上，聚類分析被用來(lái)發(fā)現(xiàn)不同的客戶群，并且通過(guò)購(gòu)買模式刻畫不同的客戶群的特征。聚類分析是細(xì)分市場(chǎng)的有效工具，同時(shí)也可用于研究消費(fèi)者行為，尋找新的潛在市場(chǎng)、選擇實(shí)驗(yàn)的市場(chǎng)，并作為多元分析的預(yù)處理。在生物上，聚類分析被用來(lái)動(dòng)植物分類和對(duì)基因進(jìn)行分類，獲取對(duì)種群固有結(jié)構(gòu)的認(rèn)識(shí)。在地理上，聚類能夠幫助在地球中被觀察的數(shù)據(jù)庫(kù)商趨于的相似性。在保險(xiǎn)行業(yè)上，聚類分析通過(guò)一個(gè)高的平均消費(fèi)來(lái)鑒定汽車保險(xiǎn)單持有者的分組，同時(shí)根據(jù)住宅類型，價(jià)值，地理位置來(lái)鑒定一個(gè)城市的房產(chǎn)分組。在因特網(wǎng)應(yīng)用上，聚類分析被用來(lái)在網(wǎng)上進(jìn)行文檔歸類來(lái)修復(fù)信息。在電子商務(wù)上，聚類分析在電子商務(wù)中網(wǎng)站建設(shè)數(shù)據(jù)挖掘中也是很重要的一個(gè)方面，通過(guò)分組聚類出具有相似瀏覽行為的客戶，并分析客戶的共同特征，可以更好的幫助電子商務(wù)的用戶了解自己的客戶，向客戶提供更合適的服務(wù)。

聚類分析應(yīng)用——市場(chǎng)細(xì)分

聚類是將數(shù)據(jù)分類到不同的類或者簇這樣的一個(gè)過(guò)程，所以同一個(gè)簇中的對(duì)象有很大的相似性，而不同簇間的對(duì)象有很大的相異性。

從統(tǒng)計(jì)學(xué)的觀點(diǎn)看，聚類分析是通過(guò)數(shù)據(jù)建模簡(jiǎn)化數(shù)據(jù)的一種方法。傳統(tǒng)的統(tǒng)計(jì)聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動(dòng)態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。

從機(jī)器學(xué)習(xí)的角度講，簇相當(dāng)于隱藏模式。聚類是搜索簇的無(wú)監(jiān)督學(xué)習(xí)過(guò)程。與分類不同，無(wú)監(jiān)督學(xué)習(xí)不依賴預(yù)先定義的類或帶類標(biāo)記的訓(xùn)練實(shí)例，需要由聚類學(xué)習(xí)算法自動(dòng)確定標(biāo)記，而分類學(xué)習(xí)的實(shí)例或數(shù)據(jù)對(duì)象有類別標(biāo)記。聚類是觀察式學(xué)習(xí)，而不是示例式的學(xué)習(xí)。

從實(shí)際應(yīng)用的角度看，聚類分析是數(shù)據(jù)挖掘的主要任務(wù)之一。而且聚類能夠作為一個(gè)獨(dú)立的工具獲得數(shù)據(jù)的分布狀況，觀察每一簇?cái)?shù)據(jù)的特征，集中對(duì)特定的聚簇集合作進(jìn)一步地分析。聚類分析還可以作為其他算法（如分類和定性歸納算法）的預(yù)處理步驟。

聚類分析的核心思想就是物以類聚，人以群分。在市場(chǎng)細(xì)分領(lǐng)域，消費(fèi)同一種類的商品或服務(wù)時(shí)，不同的客戶有不同的消費(fèi)特點(diǎn)，通過(guò)研究這些特點(diǎn)，企業(yè)可以制定出不同的營(yíng)銷組合，從而獲取最大的消費(fèi)者剩余，這就是客戶細(xì)分的主要目的。在銷售片區(qū)劃分中，只有合理地將企業(yè)所擁有的子市場(chǎng)歸成幾個(gè)大的片區(qū)，才能有效地制定符合片區(qū)特點(diǎn)的市場(chǎng)營(yíng)銷戰(zhàn)略和策略。金融領(lǐng)域，對(duì)基金或者股票進(jìn)行分類，以選擇分類投資風(fēng)險(xiǎn)。

下面以一個(gè)汽車銷售的案例來(lái)介紹聚類分析在市場(chǎng)細(xì)分中的應(yīng)用。

商業(yè)目標(biāo)

業(yè)務(wù)理解：數(shù)據(jù)名稱《汽車銷售.csv》。該案例所用的數(shù)據(jù)是一份關(guān)于汽車的數(shù)據(jù)，該數(shù)據(jù)文件包含銷售值、訂價(jià)以及各種品牌和型號(hào)的車輛的物理規(guī)格。訂價(jià)和物理規(guī)格可以從 edmunds.com 和制造商處獲得。定價(jià)為美國(guó)本土售價(jià)。如下：

業(yè)務(wù)目標(biāo)：對(duì)市場(chǎng)進(jìn)行準(zhǔn)確定位，為汽車的設(shè)計(jì)和市場(chǎng)份額預(yù)測(cè)提供參考。

數(shù)據(jù)挖掘目標(biāo)：通過(guò)聚類的方式對(duì)現(xiàn)有的車型進(jìn)行分類。

數(shù)據(jù)準(zhǔn)備

通過(guò)數(shù)據(jù)探索對(duì)數(shù)據(jù)的質(zhì)量和字段的分布進(jìn)行了解，并排除有問(wèn)題的行或者列優(yōu)化數(shù)據(jù)質(zhì)量。

第一步，我們使用統(tǒng)計(jì)節(jié)點(diǎn)審核數(shù)據(jù)的質(zhì)量，從審核結(jié)果中我們發(fā)現(xiàn)存在缺失的數(shù)據(jù)，如下圖所示：

第二步，對(duì)缺失的數(shù)據(jù)進(jìn)行處理，我們選擇使用缺失填充節(jié)點(diǎn)刪除這些記錄。配置如下：

建模

我們選擇層次聚類進(jìn)行分析，嘗試根據(jù)各種汽車的銷售量、價(jià)格、引擎、馬力、軸距、車寬、車長(zhǎng)、制動(dòng)、排量、油耗等指標(biāo)對(duì)其分類。

因?yàn)閷哟尉垲惒荒茏詣?dòng)確定分類數(shù)量，因此需要我們以自定義的方式規(guī)定最后聚類的類別數(shù)。層次聚類節(jié)點(diǎn)配置如下（默認(rèn)配置）：

可以使用交互表或者右擊層次聚類節(jié)點(diǎn)查看聚類的結(jié)果，如下圖所示：

再使用餅圖查看每個(gè)類的大小，結(jié)果如下：

從圖中可見(jiàn)，分成的三個(gè)類樣本數(shù)差異太大，cluster_0和cluster_1包含的樣本數(shù)都只有1，這樣的分類是沒(méi)有意義的，因此需要重新分類。我們嘗試在層次聚類節(jié)點(diǎn)的配置中指定新的聚類方法：完全。新的聚類樣本數(shù)分布如下：

cluster_0、 cluster_1、cluster_2的樣本數(shù)分別為：50、9、93。

執(zhí)行后輸出樹(shù)狀/冰柱圖，可以從上往下看，一開(kāi)始是一大類，往下走就分成了兩類，越往下分的類越多，最后細(xì)分到每一個(gè)記錄是一類，如下所示：

我們可以再使用條形圖查看每類的銷售量、平均價(jià)格，如下圖所示：

每類總銷量分布圖

每類平均銷量分布圖

每類平均價(jià)格分布圖

我們?cè)倏匆幌旅款惖匿N售額分布情況。首先，我們需要使用Java代碼段節(jié)點(diǎn)或者派生節(jié)點(diǎn)生成銷售額字段，配置如下：

再使用餅圖查看銷售額分布情況，cluster_0、 cluster_1、cluster_2的市場(chǎng)份額分別為：32.39%、0.53%和67.08%，如下圖所示：

案例小結(jié)

通過(guò)這個(gè)案例，大家可以發(fā)現(xiàn)聚類分析確實(shí)很簡(jiǎn)單。進(jìn)行聚類計(jì)算后，主要通過(guò)圖形化探索的方式評(píng)估聚類合理性，以及在確定聚類后，分析每類的特征。