人工智能的時代距離我們越來越近，當機器人逐漸進化到產(chǎn)生自我意識，世界將會變成什么樣？對于人工智能和機器人的看法，已故著名科學家斯蒂芬·霍金并不樂觀，霍金認為，在機器人產(chǎn)生自意識后，機器人或?qū)猿饺祟惖乃俣妊杆籴绕?，機器人將會取代人類成為這個世界的主宰，這個世界或?qū)⒆兂梢粋€人類被奴役的世界。

快速發(fā)展的可能出現(xiàn)自我意識的機器人的前景，讓人聯(lián)想到終結者機器人或黑鏡反烏托邦，但是，現(xiàn)在一群科技研究人員聲稱，他們已經(jīng)開發(fā)出一種抑制人工智能出現(xiàn)不良行為的方法。

為了防止機器人產(chǎn)生自我意識，技術專家公布新的人工智能設計方法，來自馬薩諸塞大學阿姆赫斯特分校的首席作者菲利普·托馬斯表示：“當人們應用機器學習算法時，很難控制它的行為?！?/p>

根據(jù)托馬斯和他的同事們的研究，關鍵問題不是試圖教計算機遵守道德操守，而是設計機器學習算法，以便人類用戶以后更容易添加約束，使人工智能更安全、更公平的發(fā)展。

該團隊提出了一個名為“Seldonian”算法的框架，該算法以科幻作家艾薩克·阿西莫夫創(chuàng)造的一個角色命名，用戶可以根據(jù)自己的需要指定不希望出現(xiàn)的不良行為。

托馬斯教授給出了在控制用于糖尿病治療的胰島素泵時使用算法的例子，并詳細說明了不良行為意味著危險的低血糖，托馬斯解釋稱：“大多數(shù)算法都無法給你提供一種約束這種行為的方法，因為早期的算法設計中沒有包含這種約束?！?/p>

在發(fā)表在《科學》雜志上的一項研究中，該研究團隊測試了他們的Seldonian算法，以預測巴西43，000名學生的平均績點，并表示該算法成功地克服了幾種類型的性別偏見。

研究人員分別來自美國的阿姆赫斯特分校和斯坦福大學以及巴西的里約熱內(nèi)盧聯(lián)邦大學，他們呼吁該領域的其他人繼續(xù)他們的研究途徑，以開發(fā)更負責任的機器學習。