在Isaac Asimov的科幻小說中有三條關于機器人安全定律，它們看似簡單明了，但情節(jié)的發(fā)展卻揭示了意想不到的復雜性。相關人員在制定自動駕駛汽車安全標準時也用類似的簡單語言表達了他們的目標。目前有小組正在開發(fā)自動駕駛汽車如何與人類互動以及與他人互動的標準，然而他們面臨的現(xiàn)實世界問題比科幻小說要復雜得多。

自動駕駛汽車的倡導者們聲稱，把車交給AI駕駛，每年可以減少全球130萬人死于機動車。然而，自動駕駛也會殺人，這讓公眾變得謹慎起來。美國國家運輸安全委員會近期公布的文件稱，2018年3月，亞利桑那州一名行人被自動駕駛的Uber車撞死，原因是車輛的安全駕駛員、優(yōu)步公司和亞利桑那州的安全問題。即使是無關痛癢的安全故障也是致命的，比如一輛處于自動駕駛模式的Tesla沒有足夠的智能來避免撞上一輛停著的消防車。

密歇根大學(University of Michigan) Mcity自動駕駛汽車測試實驗室(Mcity autonomous vehicle testing lab)副主任Greg McGuire表示，自動駕駛汽車的安全標準對于公眾接受這項新技術“絕對至關重要”。“沒有它們，我們如何知道自動駕駛是安全的，如何獲得公眾信任?”他補充說，贏得信任需要通過一個開放的過程來制定標準，公眾可以仔細審查，甚至可能需要政府的監(jiān)管。

開發(fā)自主技術的公司已經注意到了這一點。今年早些時候，包括Aptiv、奧迪、百度、寶馬、戴姆勒、英飛凌、英特爾和大眾在內的11家公司的合作撰寫了一份題為《自動駕駛安全第一》的白皮書。他們敦促將有安全特性的功能設計到自動駕駛中，并利用網絡安全來確保重要數(shù)據(jù)的完整性，比如車輛環(huán)境中其他物體的位置、移動和識別。他們還要保證驗證機器功能在各種操作條件下的性能。

11月7日，國際電信聯(lián)盟(International Telecommunications Union)宣布成立一個名為“自動駕駛和輔助駕駛人工智能”(AI for Autonomous and Assisted Driving)的小組。其目標是:為控制自動駕駛汽車的人工智能(AI)系統(tǒng)制定性能標準。(國際電聯(lián)自1865年成立國際電報聯(lián)盟(International Telegraph Union)以來已經走過了漫長的道路，該聯(lián)盟的任務是規(guī)范電報服務的運營。)

自動駕駛聯(lián)盟的焦點小組主席Bryn Balcombe表示，該標準旨在成為“我們道路上人工智能的圖靈測試”。如果一臺電腦能讓人誤以為它是人，它就能通過圖靈測試。人工智能測試至關重要，可以確保司機和自動駕駛汽車背后的人工智能相互理解，并預測彼此的行為和風險。

在一份規(guī)劃文件寫到，人工智能的發(fā)展應該符合公眾的期望:

•人工智能從不從事粗心、危險或魯莽的駕駛行為

•人工智能始終保持意識，愿意，并能夠避免碰撞

•人工智能達到或超過了稱職、謹慎的人類駕駛員的表現(xiàn)

汽車的AI算法總體目標類似于阿西莫夫定律(Asimov’s laws)，它們禁止傷害人類，并要求它們遵守人類命令，保護自己的存在。但國際電信聯(lián)盟的文件有一份包含15項“可交付成果”的清單，其中包括為評估人工智能制定規(guī)范，以及為驗證人工智能在道路上的表現(xiàn)起草技術報告。

但這里有一個核心問題，如何說服公眾將駕駛這項生死攸關的活動特權賦予一項技術，因為我們已經遭遇了令人尷尬的失敗，比如對少數(shù)族裔的誤判，導致舊金山禁止警察和市政機構使用面部識別技術。

McGuire說到，測試AI駕駛的能力非常復雜，人類的適應性使我們成為相當好的駕駛員。“我們并不完美，但我們在這方面做得很好，在兩次致命的交通事故之間，我們通常能行駛1億英里。” 在真實世界的測試中增加這么遠的距離是不現(xiàn)實的——而且這只是統(tǒng)計意義所需的數(shù)十億英里車輛里程的一小部分。這是開發(fā)人員轉向模擬的一個重要原因。計算機可以幫助他們增加虛擬里程，以發(fā)現(xiàn)在罕見情況下才會出現(xiàn)的安全隱患。

McGuire表示，AI還不足以保證汽車的安全性。“AI必須以人類能夠理解的方式工作。“由于汽車都停在了大多數(shù)人都想不到的地方，所以導致了自動駕駛汽車的追尾事故?；蛘呒词挂惠v卡車離騎車人很近，也可以認為是安全的。

其他組織也在開發(fā)自動駕駛的標準，國際電信聯(lián)盟覆蓋了輔助自動駕駛和全自動車輛，保險商實驗室正在研究全自動汽車的標準。包括汽車公司、Lyft、Uber和SAE國際(前汽車工程師協(xié)會)在內的自動車輛安全聯(lián)盟正在為SAE 4級和5級自動車輛制定安全原則。BSI集團(前身是英國標準協(xié)會)為聯(lián)網和自動駕駛汽車的英國標準制定了一項戰(zhàn)略，目前正在制定這些標準。