谷歌開(kāi)發(fā)者大會(huì)爐邊談話：AI如何影響人類理解大腦

導(dǎo)語(yǔ)：Geoffrey Hinton在谷歌I/O大會(huì)爐邊談話中討論深層神經(jīng)網(wǎng)絡(luò)，解析AI技術(shù)可行性及意義。

智東西5月10日消息，最新一屆圖靈獎(jiǎng)得主、多倫多大學(xué)名譽(yù)教授兼谷歌大腦AI 團(tuán)隊(duì)的高級(jí)研究員Geoffrey Hinton在山景城（Mountain View）谷歌I / O開(kāi)發(fā)者大會(huì)的爐邊聊天中發(fā)表了講話。他討論了神經(jīng)網(wǎng)絡(luò)的起源，以及人工智能的可行性和意義。

Geoffrey Hinton被稱為“人工智能教父”，在過(guò)去30年里一直致力于解決AI面臨的一些最大挑戰(zhàn)。除了在機(jī)器學(xué)習(xí)方面的開(kāi)創(chuàng)性工作，Geoffrey Hinton還撰寫或與別人合著了共200多篇同行評(píng)議的論文，其中包括1986年關(guān)于機(jī)器學(xué)習(xí)技術(shù)的一篇叫做“backpropagation”（反向傳播）的論文。

Geoffrey Hinton推廣了深層神經(jīng)網(wǎng)絡(luò)的概念，包含上述功能的人工智能模型，它們被安排在相互連接的層中，傳輸“信號(hào)”并調(diào)整連接的突觸強(qiáng)度（權(quán)重）。通過(guò)這種方式，他們從輸入數(shù)據(jù)中提取特征，并學(xué)會(huì)做出預(yù)測(cè)。

一、自注意力網(wǎng)絡(luò)優(yōu)于最先進(jìn)模型，所需訓(xùn)練數(shù)據(jù)更少

Transformers是一種自注意力網(wǎng)絡(luò)架構(gòu)，是一系列深度神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)，通過(guò)自注意力層相互堆疊，多重轉(zhuǎn)換學(xué)習(xí)輸入分詞，在具體的情境中得到了完善。谷歌的研究人員兩年前的在一篇博客文章和隨附論文“注意力就是你所需要的一切”中對(duì)此進(jìn)行了詳細(xì)闡述。由于動(dòng)態(tài)計(jì)算權(quán)重的注意力機(jī)制，Transformers在語(yǔ)言翻譯任務(wù)中的表現(xiàn)優(yōu)于最先進(jìn)的模型，而且訓(xùn)練所需的計(jì)算量更少。

Geoffrey Hinton承認(rèn)，創(chuàng)新的步伐甚至讓他感到驚訝。他表示“在2012年的時(shí)候，我并沒(méi)想到在未來(lái)五年內(nèi)，我們會(huì)使用相同的技術(shù)在多種語(yǔ)言之間進(jìn)行翻譯?！?/p>

Geoffrey Hinton認(rèn)為，當(dāng)前的AI和機(jī)器學(xué)習(xí)方法有其局限性。他指出，大多數(shù)計(jì)算機(jī)視覺(jué)模型沒(méi)有反饋機(jī)制，也就是說(shuō)，它們不會(huì)嘗試從更高層次的表示中重建數(shù)據(jù)。相反，他們?cè)噲D通過(guò)改變權(quán)重來(lái)區(qū)分性地學(xué)習(xí)特征。

Geoffrey Hinton說(shuō)：“”他們并沒(méi)有在各種級(jí)別特征探測(cè)器級(jí)別上檢查他們是否能夠重建下面的數(shù)據(jù)?！?/p>

二、AI研究為神經(jīng)科學(xué)提供借鑒

Geoffrey Hinton和他的同事最近轉(zhuǎn)向人類視覺(jué)皮層尋求靈感。Geoffrey Hinton表示，人類視覺(jué)需要一種重建的學(xué)習(xí)方法，事實(shí)證明，計(jì)算機(jī)視覺(jué)系統(tǒng)中的重建技術(shù)增強(qiáng)了他們對(duì)抗對(duì)抗性攻擊的能力。

大腦科學(xué)家們都同意這樣的觀點(diǎn)，如果你的大腦皮層有兩個(gè)區(qū)域處于知覺(jué)通路中，并且一個(gè)區(qū)域與另一個(gè)區(qū)域之間存在聯(lián)系，那么總會(huì)有一個(gè)向后的路徑?！?/p>

Geoffrey Hinton認(rèn)為，神經(jīng)科學(xué)家可以從AI研究人員那里學(xué)到很多東西。他認(rèn)為未來(lái)的AI系統(tǒng)大多數(shù)都是無(wú)監(jiān)督的。無(wú)監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支，可以從未標(biāo)記的、未分類和未分類的測(cè)試數(shù)據(jù)中收集知識(shí)。其學(xué)習(xí)共性、并對(duì)共性的存在或不存在做出反應(yīng)的能力幾乎與人類相似。

如果你采用具有數(shù)十億參數(shù)的系統(tǒng)，并且在一些目標(biāo)函數(shù)中進(jìn)行學(xué)術(shù)梯度下降，它的效果會(huì)比預(yù)期的要好得多，規(guī)模越大，效果越好。Geoffrey Hinton說(shuō)：“這使得大腦計(jì)算某些目標(biāo)功能的梯度并更新突觸的強(qiáng)度以遵循這一梯度的說(shuō)法更加可信。我們只需要知道它是如何得到梯度的，以及目標(biāo)函數(shù)是什么。”

Geoffrey Hinton認(rèn)為，這甚至可能解開(kāi)夢(mèng)的奧秘。關(guān)于為什么我們會(huì)不記得夢(mèng)境的疑問(wèn)。他認(rèn)為這可能與“忘卻”有關(guān)，他在一篇關(guān)于玻爾茲曼機(jī)器的合著論文中解釋了這一理論。這些AI系統(tǒng)，由對(duì)稱連接的神經(jīng)元單位組成網(wǎng)絡(luò)，可以隨機(jī)決定是“開(kāi)”還是“關(guān)”，通過(guò)系統(tǒng)觀察到的數(shù)據(jù)結(jié)果來(lái)看，“忘卻”并不那么令人驚訝。

Geoffrey Hinton說(shuō)：“做夢(mèng)的意義可能在于，你把整個(gè)學(xué)習(xí)過(guò)程顛倒過(guò)來(lái)?！?/p>

三、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)應(yīng)用于教育領(lǐng)域會(huì)帶來(lái)何種改變？

Geoffrey Hinton相信，這些學(xué)習(xí)可以改變?cè)S多領(lǐng)域，比如教育，他預(yù)計(jì)將人類生物化學(xué)的課程變得更加個(gè)性化、針對(duì)性更強(qiáng)。

Geoffrey Hinton說(shuō)：“你可能會(huì)認(rèn)為，如果我們真正了解目前的情況，我們應(yīng)該能夠改善教育等方面的狀況，我認(rèn)為我們會(huì)做到。如果你最終能夠理解大腦是如何工作以及學(xué)習(xí)的，卻不為了更好地學(xué)習(xí)而去適應(yīng)環(huán)境，那將是非常奇怪的。”

他警告說(shuō)，這需要時(shí)間。就近期而言，Geoffrey Hinton設(shè)想了智能助理的未來(lái)，比如Google Assistant或Amazon的Alexa，它們可以與用戶互動(dòng)，并在日常生活中引導(dǎo)他們。

Geoffrey Hinton的預(yù)測(cè)是在谷歌的前執(zhí)行主席Eric Schmidt最近的一次演講之后發(fā)布的。Eric Schmidt同樣相信，在未來(lái)，個(gè)性化的AI助手將使用我們的行為知識(shí)來(lái)讓我們了解情況。

Geoffrey Hinton總結(jié)說(shuō)：“在幾年內(nèi)，我不確定我們會(huì)學(xué)到多少東西。但是如果你仔細(xì)看看，助理程序現(xiàn)在已經(jīng)相當(dāng)智能，一旦它們能夠真正理解對(duì)話，智能助理就可以與孩子進(jìn)行對(duì)話并教育他們?！?/p>

結(jié)語(yǔ)：AI融入生活，技術(shù)改變未來(lái)

AI已經(jīng)逐漸融入了我們的日常生活，無(wú)論是智能家居產(chǎn)品還是智能穿戴設(shè)備，都成為了我們簡(jiǎn)化我們工作生活的工具。

未來(lái)AI技術(shù)還有無(wú)限的發(fā)展?jié)摿?，它也將?duì)我們的未來(lái)生活產(chǎn)生越來(lái)越大的影響。