近日，某品牌汽車在樣車測試期間發(fā)生事故，造成了很大的人員財產損失，第一時間沖上了新聞頭條。同時，被輿論關注的還有老生常談的汽車自動駕駛問題。自動駕駛是否安全?是否應該開放自動駕駛?在自動駕駛的外殼下，人工智能能否擁有道德判斷作為問題的核心也難下定論。

“電車難題”人工智能面臨道德困境

美國MIT設計了一個名為道德機器(Moral Machine)的網站，網站設計汽車失控的各種情景讓觀眾做出選擇，通過收集300萬用戶的反饋，道德機器發(fā)現，人們更傾向于讓自動駕駛車自毀以保障更多人的生命，卻希望自己的車沒有這個特征。這一結論與文化、習俗無關，是人類通常普遍的選擇，與社會普遍認知相契合，人們希望通過犧牲少數人的生命換取更多人的生命。但這與法律是相違背的，因為人的生命本身并不可以進行比較和量化。

這是自動駕駛不可避免的道德問題。一方面，如果允許AI在失控中做出決策，根據權責一體的規(guī)定，也就意味著AI或其背后的自動駕駛公司應當對決策行為承擔責任。另一方面，如果不允許AI做出決策，則不能稱為自動駕駛——因為自動駕駛汽車的定義是不需要人為操作即能感測其環(huán)境及導航駕駛的汽車。

自動駕駛遇到的“電車難題”只是人工智能行業(yè)遭遇的困境的一個縮影。盡管隨著科技的進步和大數據行業(yè)的發(fā)展，人工智能模型越發(fā)成熟，但是在涉及道德、意識等人性方面的問題時卻陷入尷尬的處境：根據人工智能“奇點”論，人工智能終會在理性和感性方面超過人類，但對人工智能的安全問題，人類又歷來有“弗蘭肯斯坦情結”，一般人類在心理上無法接受與非生物的機器產生共情。

人工智能可能以任何形態(tài)存在?？萍歼M入量子時代，無論是固體、液體還是氣體，只要能進行粒子層面的利用，都有可能嫁接人工智能。這讓科技進一步爆炸性發(fā)展成為可能，它將深刻影響人類的文明，甚至人類自身的演化進程。

但人類從來對科技就沒有能夠進行有效控制，這是人性，僅僅依靠道德、法律來約束是遠遠不夠的。比如，美國人人可以持槍，所以一定有人要被槍殺;第一次工業(yè)革命讓英國稱霸全球。以這種邏輯，無論人工智能是否出現國家間的優(yōu)劣態(tài)勢，也無法擺脫人性的罪惡操弄。它將使人與人之間的相害變得非常容易，更會大大提高全球戰(zhàn)爭風險。

之所以人類無法有效控制，是因為控制的力度和方式完全不對，更深層的原因是社會治理架構的系統性問題。從認知層面、到管理層面、到立法層面、到執(zhí)行層面，竟然完全缺失。因為沒有人去思考，怎樣才能讓人工智能只為人服務!

當今社會還有一個最大的威脅來自資本，因為人工智能的開發(fā)，需要大量的資金投入。如此一來，越是高精尖的項目，越是具有領先優(yōu)勢的技術，越會被大資本所控制。一旦他們所控制的技術，在某些領域形成絕對優(yōu)勢和壟斷，那么別說挑戰(zhàn)政權，就是奴役全人類，毀滅全人類也是輕輕松松的事情。

新的貨幣體系和治理體系，已經為消滅資本主義打下基礎，我們要做的，是避免個人或者機構在掌握優(yōu)勢技術以后，將優(yōu)勢轉化成挑戰(zhàn)公共安全和政權的勢力。

有偏見的機器人如何工作?

研究人員查看機器人選擇不同性別和種族的照片的次數比例。事實證明，它是有偏見地行事。它選了更多地男性，其中包括白人和亞洲人。它最不容易識別的是黑人女性。它更有可能將女性視為“管家”，將黑人男性視為“罪犯”，將西班牙裔視為“看門人”。

這項研究表明人工智能已經學會復制人類的刻板印象。

盡管表面上看，這可能產生不了實際的影響。

但“當一個孩子要求機器人給他一個漂亮的娃娃時，機器人會伸手去拿一個白色的娃娃”，它的主觀意識里面認為這個是漂亮的。

在商店里，當產品包裝上有人臉時，機器更容易伸手去拿印有白人的商品。

人工智能的偏見是一個真正的問題。學術界和商業(yè)界都意識到了這個問題，并正在努力克服并解決它。期待有一天能真正見到人工智能。