科技是把雙刃劍 舊金山將成為美國第一個禁止人臉識別的城市
人臉識別技術(shù)正在突飛猛進,在它最先興起的地方,一些人已經(jīng)警惕起來。
人臉識別是當下人工智能的熱門領(lǐng)域之一。但對于人臉識別是否應(yīng)該用于執(zhí)法,美國正處于立法爭議階段,部分地方政府對人臉識別技術(shù)展現(xiàn)出了謹慎和排斥的傾向。有報道稱,舊金山或?qū)⒊蔀槊绹谝粋€禁止人臉識別的城市。
今年1月,舊金山提出了一項關(guān)于監(jiān)視技術(shù)的行政法規(guī)——《停止秘密監(jiān)視條例》。針對人臉識別技術(shù),該條例特別指出。如果該提案通過,舊金山將成為美國第一個禁止政府使用人臉識別技術(shù)的城市,并將對政府部門購買和使用監(jiān)控技術(shù)加以監(jiān)督。
該提案聲稱,人臉識別技術(shù)所帶來的威脅已經(jīng)“大大超過了它所宣稱的好處”。該提案受到了包括美國公民自由聯(lián)盟(ACLU)等公民團體的支持。
需要指出的是,舊金山對人臉識別的禁止,并不是全城區(qū)域內(nèi)禁止,只是對政府利用人臉識別技術(shù)的一定程度上的限制。至于商業(yè)上的應(yīng)用,比如手機刷臉支付,則并不在此之列。
而美國公民自由協(xié)會曾用美國國會議員的照片,對亞馬遜公司的人臉識別系統(tǒng)Rekognition進行了測試,結(jié)果是,系統(tǒng)將28位議員錯誤地識別為涉嫌犯罪的被捕者。美國公民自由協(xié)會懷疑系統(tǒng)存在種族歧視,因為在測試中,被錯誤識別者中約40%是有色人種,但有色人種只占國會議席的20%。
同時麻省理工學院對于微軟、Facebook、IBM等公司人臉識別系統(tǒng)的測試也表明,系統(tǒng)在檢測膚色較深的女性時,出錯率要比檢測膚色較淺的男性高出35%。這將強化社會對于少數(shù)族裔與邊緣群體的偏見。
導致這種錯誤發(fā)生在用于訓練識別算法的人臉里,男性和白人面孔占了大多數(shù)。一般來說,人臉識別的準確度與喂食算法的人臉數(shù)量和多元性成正比。技術(shù)無偏見,技術(shù)的偏見源于人類的偏見和不加糾正的利用。
就目前來看,如果不對面部識別加以限制和監(jiān)管,它對于隱私與自由的威脅遠比想象的要多。面部識別主要依賴的是人的面部信息,而這是具有唯一性特征的生物信息,類似信息包括指紋、虹膜,一旦泄露將是終身泄露。何況面部識別訓練的背后,也隱藏著許多的“骯臟的小秘密”,例如我們的照片在未經(jīng)允許的情況下被用于訓練人臉識別系統(tǒng),而這個系統(tǒng)最終可能被出售或用于監(jiān)視。
據(jù)NBC報道,IBM從Flickr網(wǎng)站上抓取了近100萬張照片用于訓練人臉識別算法,包括一些攝影師拍攝的人臉圖像以及自拍照,但他們對此毫不知情,其中一位奧地利攝影師有超過700張照片被用于研究面部識別技術(shù)。據(jù)CNN、NBC報道,類似的公司也常從Flickr、Instagram、YouTube、Facebook、Google等網(wǎng)站以及圖片庫,免費抓取人臉圖像以喂食算法系統(tǒng)。這些訓練并不僅僅是學術(shù)研究,最終會被拿來賺錢。
這種未經(jīng)許可的行為在伊利諾伊州是違法的,但該州只是通過一項《生物識別信息隱私法》來限制人臉識別技術(shù)對公民隱私的侵犯,規(guī)定獲取生物識別數(shù)據(jù)的任何個人、公司或組織必須首先獲得用戶簽名(例如,通過在屏幕上單擊“我同意”)。許多其他州已經(jīng)或正在考慮自己的生物識別法律,但是目前只有德克薩斯州和華盛頓州制定了類似的法律。
不可否認,人臉識別技術(shù)為警方偵破案件提供了巨大的幫助。但在法律對技術(shù)做出規(guī)范之前,應(yīng)該避免技術(shù)被濫用。人臉識別技術(shù)的批評者認為,即便是政府,也不應(yīng)在沒有明確的監(jiān)督體系的情況下使用監(jiān)控技術(shù)。
由此可見,在我們享受科技進步所帶來紅利背后,相關(guān)法律法規(guī)也應(yīng)根據(jù)技術(shù)發(fā)展現(xiàn)狀和趨勢及時跟進,以適應(yīng)社會發(fā)展的要求。而如果對新技術(shù)理解出現(xiàn)偏差,急躁立法也會打壓新技術(shù)的進步。如何在技術(shù)進步和現(xiàn)實應(yīng)對之間取得平衡,無疑對相關(guān)立法提出了巨大挑戰(zhàn)。
一項新技術(shù)得以蓬勃發(fā)展,必定是因為有需求。近幾十年來,新技術(shù)發(fā)展日新月異,改造著人類生活的方方面面。在新技術(shù)的應(yīng)用中,必然會帶來一些新問題,但單純的禁止是因噎廢食,正確的做法是,用客觀、理性、發(fā)展、審慎的態(tài)度,針對具體情況進行公開的、廣泛的具體分析,從而做到趨利避害。





