參考鏈接：https://vas3k.com/blog/machine_learning/

算法公式挺費(fèi)神，機(jī)器學(xué)習(xí)太傷人。任何一個(gè)剛?cè)腴T(mén)機(jī)器學(xué)習(xí)的人都會(huì)被復(fù)雜的公式和晦澀難懂的術(shù)語(yǔ)嚇到。但其實(shí)，如果有通俗易懂的圖解，理解機(jī)器學(xué)習(xí)的原理就會(huì)非常容易。本文整理了一篇博客文章的內(nèi)容，讀者可根據(jù)這些圖理解看似高深的機(jī)器學(xué)習(xí)算法。

機(jī)器學(xué)習(xí)這個(gè)主題已經(jīng)很普遍了，每個(gè)人都在談?wù)撍苌儆腥四軌蛲笍氐亓私馑?。?dāng)前網(wǎng)絡(luò)上的一些機(jī)器學(xué)習(xí)文章晦澀難懂，理論性太強(qiáng)，或者通篇云里霧里地介紹人工智能、數(shù)據(jù)科學(xué)的魔力以及未來(lái)的工作等。

所以呢，本文作者 vas3k 通過(guò)簡(jiǎn)潔的語(yǔ)言和清晰明了的圖示內(nèi)容，使得讀者能夠更容易地理解機(jī)器學(xué)習(xí)。拋卻了晦澀難懂的理論介紹，文中側(cè)重于機(jī)器學(xué)習(xí)中的實(shí)際問(wèn)題、行之有效的解決方案和通俗易懂的理論。無(wú)論你是程序員還是管理者，本文都適合你。

AI 的范疇

AI 到底它包含了哪些領(lǐng)域，它與各種技術(shù)名詞之間的關(guān)系又是什么樣的？其實(shí)我們會(huì)有多種判斷方式，AI 范疇的劃分也不會(huì)是唯一的，例如最「常見(jiàn)」的認(rèn)識(shí)可能如下圖所示。

你可能會(huì)認(rèn)為：

• 人工智能是個(gè)完整的知識(shí)領(lǐng)域，類似于生物學(xué)或者是化學(xué)；
  

• 機(jī)器學(xué)習(xí)是人工智能中非常重要的一部分，但并不是唯一一個(gè)部分；

• 神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)的一種，現(xiàn)在非常受歡迎，但依然有其他優(yōu)秀的算法；

但是，難道深度學(xué)習(xí)都是神經(jīng)網(wǎng)絡(luò)嗎？明顯并不一定是，例如周志華老師的深度森林，它就是第一個(gè)基于不可微構(gòu)件的深度學(xué)習(xí)模型。因此，更科學(xué)的劃分可能是下圖花書(shū)中的這種：

機(jī)器學(xué)習(xí)下面應(yīng)該是表示學(xué)習(xí)，即概括了所有使用機(jī)器學(xué)習(xí)挖掘表示本身的方法。相比傳統(tǒng) ML 需要手動(dòng)設(shè)計(jì)數(shù)據(jù)特征，這類方法能自己學(xué)習(xí)好用的數(shù)據(jù)特征。整個(gè)深度學(xué)習(xí)也是一種表示學(xué)習(xí)，通過(guò)一層層模型從簡(jiǎn)單表示構(gòu)建復(fù)雜表示。

機(jī)器學(xué)習(xí)路線圖

如果你比較懶，那這有一張完整的技術(shù)路線圖供你參考。

按照現(xiàn)階段主流分類來(lái)看，機(jī)器學(xué)習(xí)主要分為四類：

• 經(jīng)典機(jī)器學(xué)習(xí)；

• 強(qiáng)化學(xué)習(xí)；

• 神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)；

• 集成方法；

經(jīng)典機(jī)器學(xué)習(xí)

經(jīng)典機(jī)器學(xué)習(xí)經(jīng)常被劃分為兩類：監(jiān)督型學(xué)習(xí)和非監(jiān)督型學(xué)習(xí)。

監(jiān)督學(xué)習(xí)

在分類中，模型總是需要一個(gè)導(dǎo)師，即對(duì)應(yīng)特征的標(biāo)注，這樣的話機(jī)器就可以基于這些標(biāo)注學(xué)習(xí)進(jìn)行進(jìn)一步分類。萬(wàn)事皆可分類，基于興趣去分類用戶、基于語(yǔ)言和主題分類文章、基于類型而分類音樂(lè)以及基于關(guān)鍵詞分類電子郵件。

而在垃圾郵件過(guò)濾中，樸素貝葉斯算法得到了極其廣泛的應(yīng)用。事實(shí)上，樸素貝葉斯曾被認(rèn)為是最優(yōu)雅、最實(shí)用的算法。

支持向量機(jī) (SVM) 是最流行的經(jīng)典分類方法。也是被用來(lái)對(duì)現(xiàn)有的一切事物進(jìn)行分類: 照片中的植物外觀，文件等等等。支持向量機(jī)背后的思路也很簡(jiǎn)單，以下圖為例，它試圖在數(shù)據(jù)點(diǎn)之間畫(huà)出兩條邊距最大的線。

監(jiān)督學(xué)習(xí)——回歸

回歸基本上是分類，但預(yù)測(cè)的標(biāo)的是一個(gè)數(shù)字而不是類別。例如按里程計(jì)算的汽車價(jià)格，按時(shí)間計(jì)算的交通量，按公司增長(zhǎng)計(jì)算出市場(chǎng)需求量等。當(dāng)所預(yù)測(cè)的事物是依賴于時(shí)間時(shí)，回歸是非常合適的選擇。

無(wú)監(jiān)督學(xué)習(xí)

無(wú)監(jiān)督學(xué)習(xí)是 90 年代才被發(fā)明出來(lái)的，可以這么去描述它「根據(jù)未知特征對(duì)目標(biāo)進(jìn)行分割，而由機(jī)器去選擇最佳方式?！?/span>

無(wú)監(jiān)督學(xué)習(xí)——聚類

聚類是一種沒(méi)有預(yù)先定義類的分類。比如當(dāng)你不記得你所有的顏色時(shí)，把襪子按顏色分類一樣。聚類算法試圖通過(guò)某些特征從而找到相似的對(duì)象并將它們合并到一個(gè)聚類中。

無(wú)監(jiān)督學(xué)習(xí)——降維

「將特定的特征組合成更高級(jí)的特性」

人們?cè)谑褂贸橄蟮臇|西總是比使用零碎的特征更具有方便性。舉個(gè)例子，將所有長(zhǎng)著三角形的耳朵、長(zhǎng)鼻子和大尾巴的狗合并成一個(gè)很好的抽象概念——「牧羊犬」。

再比如有關(guān)科技的文章中擁有更多科技術(shù)語(yǔ)，而政治新聞里最多的是政客的名字。假如我們要將這些具有特性的單詞以及文章組成一個(gè)新的特征，以保持其潛在關(guān)聯(lián)度，SVD 便是個(gè)不錯(cuò)的選擇。

無(wú)監(jiān)督學(xué)習(xí)——關(guān)聯(lián)規(guī)則學(xué)習(xí)

「在訂單流中分析出特征模式」

包括分析購(gòu)物車，自動(dòng)化營(yíng)銷策略等。舉個(gè)例子，顧客拿著六瓶啤酒走向收銀臺(tái)，在其路上是否該放些花生？如果放了，這些顧客多久會(huì)來(lái)買(mǎi)一次？如果啤酒花生是絕配，那還有其他什么事物也可進(jìn)行這樣的搭配呢？

現(xiàn)實(shí)生活中，每個(gè)大型零售商都有它們自己的專用解決方案，而當(dāng)中技術(shù)水平最高的要數(shù)那些「推薦系統(tǒng)」。

集成方法

「團(tuán)結(jié)就是力量」，這句老話很好地表達(dá)了機(jī)器學(xué)習(xí)領(lǐng)域中「集成方法」的基本思想。在集成方法中，我們通常會(huì)訓(xùn)練多個(gè)「弱模型」，以期待能組合成為一個(gè)強(qiáng)大的方法。像各種經(jīng)典 ML 競(jìng)賽中，差不多效果最好的那一撥，如梯度提升樹(shù)、隨機(jī)森林等都屬于集成方法。

一般而言集成方法的「組合方式」主要可以分為三種：Stacking、Bagging、Boosting。

如下圖所示，Stacking 通常考慮的是異質(zhì)弱學(xué)習(xí)器，弱學(xué)習(xí)器可以先并行地訓(xùn)練，而后通過(guò)一個(gè)「元模型」將它們組合起來(lái)，根據(jù)不同弱模型的預(yù)測(cè)結(jié)果輸出一個(gè)最終的預(yù)測(cè)結(jié)果。

Bagging 方法通常考慮的是同質(zhì)弱學(xué)習(xí)器，相互獨(dú)立地并行學(xué)習(xí)這些弱學(xué)習(xí)器，并按照某種確定性的平均過(guò)程將它們組合起來(lái)。假設(shè)所有弱學(xué)習(xí)器都是決策樹(shù)模型，那么這樣做出來(lái)的 Bagging 就是隨機(jī)森林。

Boosting 方法通常考慮的也是同質(zhì)弱學(xué)習(xí)器，只不過(guò)它的思想是「分而治之」。它以一種高度自適應(yīng)的方法順序地學(xué)習(xí)這些弱學(xué)習(xí)器，且后續(xù)弱模型重點(diǎn)學(xué)習(xí)上一個(gè)弱模型誤分類的數(shù)據(jù)。

這就相當(dāng)于不同的弱分類器，專注于部分?jǐn)?shù)據(jù)，達(dá)到「分而治之」的效果。如下所示，Boosting 就是以串行組合不同模型的范式。大名鼎鼎的 XGBoost、LightGBM 這些庫(kù)或算法，都采用的 Boosting 方法。

現(xiàn)在，從樸素貝葉斯到 Boosting 方法，經(jīng)典機(jī)器學(xué)習(xí)的主要分支已經(jīng)具備了。如果讀者希望有一個(gè)更系統(tǒng)與詳細(xì)地了解，李航老師的《統(tǒng)計(jì)學(xué)習(xí)方法》與周志華老師的《機(jī)器學(xué)習(xí)》是最好的兩本中文教程。

當(dāng)然，在這篇博客中，作者還介紹了強(qiáng)化學(xué)習(xí)與深度學(xué)習(xí)等等，內(nèi)容非常適合對(duì)人工智能感興趣且非相關(guān)專業(yè)的讀者，加上形象的配圖，算得上是篇非常不錯(cuò)的科普文。

-END-

推薦閱讀

【01】霸榜 GitHub：去你丫的算法！牛X的人都有脾氣（實(shí)用項(xiàng)目推薦）

【02】嵌入式必會(huì)！C語(yǔ)言 最常用的貪心算法就這么被攻略了

【03】這篇文章把今日頭條和抖音的算法扒的底褲都不剩！

【04】大數(shù)據(jù)時(shí)代，嵌入式工程師必須知道的八大加密算法

【05】嵌入式系統(tǒng)語(yǔ)言常見(jiàn)算法解析，這12條準(zhǔn)則一定要記住

免責(zé)聲明：整理文章為傳播相關(guān)技術(shù)，版權(quán)歸原作者所有，如有侵權(quán)，請(qǐng)聯(lián)系刪除