AlphaGo打敗柯潔和李世石后，人們開始擔(dān)心：人工智能是否會(huì)取代人類？無論是《機(jī)械公敵》，還是《終結(jié)者》，都描述了人工智能與人類大戰(zhàn)的故事。人工智能究竟能有多聰明？他們會(huì)欺騙人類甚至取代人類嗎？在第四屆中國機(jī)器人峰會(huì)上，美國機(jī)器人界”攝政“教授，機(jī)器人之父Ronald C.Arkin就這一問題展開了深入的討論。讓我們?cè)俅位仡欉@個(gè)報(bào)告，深度剖析人造良知與人工智能。

隨著人工智能的發(fā)展，會(huì)造出能夠欺騙的機(jī)器人嗎？是世界末日？還是美好未來？被譽(yù)為美國機(jī)器人界”攝政“教授、”人造良知“機(jī)器人之父的美國佐治亞理工移動(dòng)機(jī)器人實(shí)驗(yàn)室主任、電子計(jì)算機(jī)學(xué)院首席教授Ronald C.Arkin，以多年的研究經(jīng)驗(yàn)在第四屆中國機(jī)器人峰會(huì)中深度闡釋了機(jī)器人欺騙的利弊與研究現(xiàn)狀，讓我們聆聽Arkin教授的精彩演講。

為什么要有欺騙

欺騙很重要。它不僅僅對(duì)人際關(guān)系重要，對(duì)自然界中的生物也很重要。許多不同的物種大多數(shù)都會(huì)欺騙，因?yàn)檫@是存活的先決條件，需要它來逃避偵測(cè)，需要它來抓住獵物，或需要欺騙找到優(yōu)秀配偶。

其他非特定的情況下，欺騙可能不是最好的方式，但它有不同的考慮，一個(gè)關(guān)鍵的事實(shí)是，真正表明它們的高智能，某種程度上必須變得更加聰明。圖靈測(cè)試本身就是一個(gè)欺騙。

自然界有這種欺騙的例子：當(dāng)獵食者來襲時(shí)，母鳥會(huì)佯裝翅膀斷了，那么獵食者就會(huì)試圖攻擊母鳥，而不去追尋鳥窩中的蛋，這樣就能保護(hù)它的鳥窩。

你可以欺騙方式讓孩子吃蔬菜，這是一種更具創(chuàng)造性的辦法，這種謊言是美好的。事實(shí)上它還能讓人們喜歡你，這也是很好的社會(huì)智慧，野獸般直白不是必要的與人相處方式。

你希望機(jī)器人對(duì)你像野獸一般誠實(shí)嗎？或者像人的行為具有社交欺詐性嗎？一個(gè)非常重要且有用的例子，電影中機(jī)器人Tars非?？幔詈絾T問Tars誠實(shí)指數(shù)是多少，機(jī)器人說有90%，宇航員問90%嗎？

機(jī)器人說，絕對(duì)的誠實(shí)與情感動(dòng)物溝通時(shí)，并不是最能交流和安全的形式，這十分正確，所以宇航員說我們會(huì)信個(gè)90%。其實(shí)這與某些方面的研究聯(lián)系起來，我們也能做得更好，可借此調(diào)整機(jī)器人的誠實(shí)等級(jí)。

研究機(jī)器人欺詐也是非常有意思的工作。用評(píng)估表來展示觀念、領(lǐng)導(dǎo)能力、年齡、食物來源方式等，另一邊有像石頭、剪刀、布這樣的機(jī)器人騙子，事實(shí)上這本是人類擅長的，這些機(jī)器人很聰明會(huì)用來欺騙。

在軍事中也用到欺騙：孫子說“兵者，詭道也”。馬基雅維利的政治觀點(diǎn)也說，雖然欺騙在其他事情上是可憎的，但在戰(zhàn)爭中卻是值得稱贊和光榮的。

回溯歷史，各種宗教傳說都有一些欺詐，這些故事以不同目的永遠(yuǎn)留存下來。這種“戰(zhàn)爭恐懼欺騙”條令，會(huì)讓士兵知曉這在中國軍隊(duì)中用“兵不厭詐”。

我們通過“相互依賴?yán)碚摗狈椒?，做了個(gè)怎么讓機(jī)器人相信人的研究。一個(gè)好的指令是會(huì)告訴你，欺騙他人首要做法就是獲得信任，交流時(shí)標(biāo)記好誰欺騙人，誰欺騙機(jī)器人。

當(dāng)我們都需要這種特別的資源時(shí)，欺騙在其中就扮演了一個(gè)重要的角色。然后有兩件我們不得不做的事情，一個(gè)是欺騙，另一個(gè)是怎么去欺騙。

你必須選擇一個(gè)時(shí)機(jī)，使用這種沖突依賴?yán)碚摚軒椭覀內(nèi)ビ吧溥@樣一塊區(qū)域，這里是非常強(qiáng)大的依賴結(jié)果。當(dāng)然如果這個(gè)區(qū)域非常小的話，機(jī)器人就不太會(huì)欺騙。如果這個(gè)區(qū)域很大，就會(huì)有更多欺詐。所以你必須有這樣調(diào)解的能力，讓機(jī)器人或者相應(yīng)的代理做到，可見沖突和依賴是必須存在的。所以神經(jīng)系統(tǒng)上的識(shí)別要求是，用這套獨(dú)特的方法影射游戲理論等，我們進(jìn)行了“伙伴建?！?。

這個(gè)理論再建模后，提醒我們?cè)谛湃沃械臎Q定性作用。換句話說，我可以信任你，因?yàn)槲抑滥闶强尚湃蔚?。同樣地，一旦我得到了你的信任。在特別的事例中我就可以欺騙你。這是非常有趣的延伸。

你不能欺騙沒有傳感器機(jī)器人， 因?yàn)樗谔厥獾氖吕校瑹o法說出欺騙有什么問題。我們發(fā)現(xiàn)其實(shí)會(huì)有更多的機(jī)會(huì)，讓傳感器之間也出現(xiàn)分歧。我同意是有欺騙成功的概率，你的合作伙伴模型做的越好， 欺騙成功的機(jī)率會(huì)越高。

我們?cè)趪H機(jī)器人雜志上，發(fā)表了這樣的論文，我們展示了相互依存的空間位置，使我們了解如何以及何時(shí)，使用欺騙行為并且將其做好。

我們這個(gè)實(shí)驗(yàn)結(jié)果不能完全代表，機(jī)器人和欺騙的末端信息，且結(jié)果初步表明所描述的技術(shù)和算法?？捎糜跈C(jī)器人制造中的欺騙行為，還需要更多的心理學(xué)有效證據(jù)，來證實(shí)這一假設(shè)，這個(gè)其實(shí)相對(duì)來說比較謙虛了。

并不是所有人都同意這個(gè)實(shí)驗(yàn)結(jié)果，例如他們說佐治亞理工的這項(xiàng)研究，做了一個(gè)非常非常糟糕的決定，他們教會(huì)了機(jī)器人如何欺騙，例如當(dāng)機(jī)器起來反抗人類以及機(jī)器人末世來臨的時(shí)候，我們將會(huì)期望Ronald Arkin和Alan Wanger不曾提出這個(gè)想法。他們并不開心，我們告訴了機(jī)器人如何欺騙，好像世界就要末日了。

還有另外一篇說我們的文章，說有人教導(dǎo)機(jī)器人如何撒謊，說Ronald Arkin和Alan Wanger注定是兩個(gè)聲名狼藉的名字；這兩來自佐治亞理工的人的論文，詳盡地描述了他們的愚蠢，他們教導(dǎo)機(jī)器人如何捉迷藏的行為。哇，他們都不太開心！還有人說在瘋狂研究者的幫助下，機(jī)器人能欺騙人類了，我很好奇“crazed boffins”中文是什么意思？

不過不是所有人都認(rèn)為這是一個(gè)糟糕的主意，時(shí)代雜志給出了公平的觀點(diǎn)，評(píng)價(jià)這是年度50大最佳發(fā)明之一，這只是一個(gè)簡單的實(shí)驗(yàn)，卻得到了這樣的評(píng)價(jià)。

雜志說這是唯一一個(gè)擺脫束縛的新類科學(xué)家，他們這些探索機(jī)器人心理的理論，甚至能告訴我們一些關(guān)于我們自己的東西。

任何支持心理理論和分解理論的外部行為比例的計(jì)算代碼，都可以幫助理解人類思維中正在發(fā)生的事情。最后有些人理解了，他們說這是一件非常棒的事情，也有人認(rèn)為我們會(huì)被全部殺死，我們會(huì)繼續(xù)研究欺騙，盡管有人認(rèn)為這會(huì)讓自我毀滅。

我們把機(jī)器人系統(tǒng)放入實(shí)驗(yàn)中獲得大量的數(shù)據(jù)，試圖展現(xiàn)人類控制機(jī)器人做法價(jià)值。有趣的是人們喜歡松鼠欺騙，但每個(gè)人都憎恨人類的欺騙行為，如果我們有基于松鼠的機(jī)器人，你會(huì)同意有一款可愛的松鼠機(jī)器人。

還有我一個(gè)學(xué)生的論文，叫“他人定位的機(jī)器人欺騙”。這種欺騙對(duì)你來說是好的，我舉一個(gè)典型的例子，當(dāng)我的妻子問她今晚看起來怎么樣，我甚至不用思考，親愛的，你今晚很漂亮，可能我不這么想。

在機(jī)器人系統(tǒng)中運(yùn)用犯罪學(xué)模型，推動(dòng)他們的社交活動(dòng)。我們希望能把它擴(kuò)大成三個(gè)元素：動(dòng)機(jī)、方法、機(jī)會(huì)。方法和機(jī)會(huì)之前已經(jīng)講過了，包括怎么樣做、什么時(shí)候做。

在這兒動(dòng)機(jī)必須是敏感緊張的，這種情況下“我真的想要做這個(gè)”，她沒有使它成為可能，通過遺漏確認(rèn)欺騙，通過委托欺騙你可以欺騙人不去做任何事你也可以騙人去做一些事通過委托欺騙，過去的方法是使用微小的干擾、面部表情和身體語言。

我們之前和索尼、AIBO、三星就機(jī)器人的一些動(dòng)態(tài)方面有合作，在十年、十五年之前有專利，我們對(duì)不同的事項(xiàng)采用了許多不同的方法，基本上它會(huì)產(chǎn)生錯(cuò)誤的信號(hào)使我們?cè)谌水?dāng)中研究它起作用的方式。

其實(shí)我們目的是希望推動(dòng)機(jī)器學(xué)習(xí)、推動(dòng)機(jī)器的表現(xiàn)。在老人當(dāng)中通過機(jī)器人識(shí)別它的功能，機(jī)器人在一些情況下會(huì)欺騙他們，你做的很棒，其實(shí)你做得很糟糕。但它讓他們保持前進(jìn)，不斷移動(dòng)。

它們可能會(huì)有超乎尋常的表現(xiàn)，那時(shí)這不再是什么罕見的教育，每個(gè)人在某些點(diǎn)上都可能是天才，我們還用案例庫推理。

最后我提的一點(diǎn)就是機(jī)器道德，我在機(jī)器人領(lǐng)域工作已超十年了，許多機(jī)器人開始隨著戰(zhàn)爭產(chǎn)生，這是一個(gè)不同尋常的話題，問題在于機(jī)器人要怎么做我們應(yīng)該允許機(jī)器人撒謊嗎？甚至是對(duì)人類？

至于道德框架的使用，如果選用道德理論的框架，回答就是“不”，你永遠(yuǎn)都不應(yīng)該撒謊；如果從功利和結(jié)果的角度，回答就“是”。

如果能夠最大化人類的幸福，這可能就是一件應(yīng)該做的好事，關(guān)于什么是應(yīng)該做的正確的事，有許多復(fù)雜的人類學(xué)理論，那你應(yīng)該能夠接受不論是好還是壞的欺騙了。

最后有一個(gè)重大的問題我們應(yīng)該讓機(jī)器人撒謊嗎？我們應(yīng)該這么做嗎？我們不能做嗎？我表示懷疑

過去我們已經(jīng)完成了欺騙，但是我們應(yīng)該這么做嗎？我們是否應(yīng)該勸說機(jī)器人？這會(huì)導(dǎo)致機(jī)器人末日和其他一些情況，或者其他能告訴我們關(guān)于自身的一些事，事實(shí)上令我們變得更好，讓社會(huì)變得更好！

機(jī)器人成為整個(gè)社會(huì)的一份子、社會(huì)生活的伙伴，這才是你的生活所需要的。而不是獨(dú)自的時(shí)光，如果它們不是每時(shí)每刻都十足誠實(shí)，或許你可能直接輸入、輸出，就是將一個(gè)不誠實(shí)的參數(shù)輸入、輸出，根據(jù)你的需要調(diào)整不誠實(shí)的等級(jí)。

我們沒有指導(dǎo)手冊(cè)告訴我們?cè)趺醋?，有全球委員會(huì)就一些機(jī)器人道德問題做了系統(tǒng)計(jì)算，以及它的下級(jí)的機(jī)器人道德倫理的職委委員會(huì)，可以了解下。