工作在一線的警察正在對劍橋大學犯罪學家研發(fā)的人工智能系統(tǒng)進行試驗，以利用過去的五年犯罪史統(tǒng)計指導警方的工作。

“周六凌晨3點，你面前那個人被發(fā)現(xiàn)持有毒品，但他沒有武器，也沒有任何暴力或嚴重犯罪的記錄。你是第二天早上讓警察把他放出來，還是把他關兩天，以確保他周一出庭？”

杰弗里·巴恩斯博士所描述的那種情景——是拘留一名嫌疑犯，還是保釋他們——每年在英國發(fā)生數(shù)十萬次。這一決定的結(jié)果對嫌疑犯、公共安全和警察來說都可能非同一般。

巴恩斯解釋說：“做出這些拘留決定的警察往往經(jīng)驗豐富，但是他們所有的知識和警務技能都不能告訴他們，如果嫌疑人被釋放，會有多大可能對社會造成重大傷害？這項工作往往給處于決策位置的警察造成極大壓力?！?/p>

巴恩斯和勞倫斯·謝爾曼教授領導了劍橋大學犯罪學研究所的Jerry Lee實驗犯罪學中心，他們一直在與世界各地的警察部門合作，詢問人工智能是否能夠提供相應的幫助。

“想象一下這樣一種情況，警察能從10萬份甚至更多的關于拘押決定的歷史案例中獲得經(jīng)驗?！?，謝爾曼說，“沒有人能有這么多的經(jīng)驗，但是機器可以?！?/p>

2016年年中，在Monument Trust基金的資助下，研究人員安裝了世界上第一款人工智能工具，幫助達勒姆警察局的一線警務人員做出拘留決定。

這項人工智能技術被稱為危害風險評估工具（Harm Assessment Risk Tool），它使用了104000人的歷史記錄，這些人之前五年間在達勒姆地區(qū)被逮捕過，并對每次拘留決定進行了兩年的跟蹤。該模型使用一種稱為“隨機森林”的方法，研究了大量的“預測值”組合，其中大部分因素集中在嫌疑人的犯罪歷史以及年齡、性別和活動區(qū)域。

巴恩斯解釋說：“在得出最終預測結(jié)論之前，這些變量會以數(shù)千種不同的方式組合在一起。如果是一個人，在他的頭腦中持有這么多的變量并作出分析，人類的頭腦根本做不到。”

哈特的目標是對犯罪者在未來兩年內(nèi)是否具有高風險（極有可能犯下謀殺、嚴重暴力、性犯罪或搶劫等新的嚴重罪行）、中等風險（極有可能犯下非嚴重罪行）或低風險（不太可能犯下任何罪行）進行分類。

謝爾曼解釋說：“良好的預測不僅僅是識別危險人物，這也涉及到識別那些絕對不危險的人。對于每一個被保釋的兇殺案嫌疑人，都有成千上萬的非暴力嫌疑犯被過度關押”

達勒姆警察局希望確定“中等風險”組——根據(jù)危害風險評估工具的統(tǒng)計數(shù)據(jù)，該組占所有嫌疑人的一半以下。這些人可能會從他們的項目中獲益，該計劃旨在解決犯罪的根本原因，并提供一種替代起訴的方案，即他們希望將中等風險轉(zhuǎn)變?yōu)榈惋L險。

“這就像針和干草堆，”謝爾曼說，“危險的‘針’對于任何人來說都太罕見了，以至于他們不能經(jīng)常被發(fā)現(xiàn)。另一方面，‘干草’不構(gòu)成威脅，將其拘留浪費社會資源，甚至可能造成更多的危害。”目前，達勒姆警察局正在進行一項隨機對照試驗，以測試預測中的中度風險嫌疑人的發(fā)展情況。

“該系統(tǒng)也在更新最新的數(shù)據(jù)?！?，巴恩斯解釋說，更新步驟將是此類工具的一個重要組成部分：“人類決策者可能會立即適應不斷變化的環(huán)境，例如對某些犯罪（如仇恨犯罪）進行優(yōu)先排序，但對于算法工具來說，這一點不一定如此。所以需要對所使用的預測因子進行仔細和持續(xù)的檢查，并經(jīng)常用更新的歷史數(shù)據(jù)刷新算法。”

沒有一個預測工具是完美的。對危害風險評估工具進行的一項獨立驗證研究發(fā)現(xiàn)，總體準確度約為63%。但是，巴恩斯說，機器學習的真正作用并不在于避免任何錯誤，而在于決定你最想避免哪些錯誤。

“并非所有的錯誤都是等價的，”達勒姆警察局刑事司法主管、犯罪學研究所警察執(zhí)法研究碩士研究生希娜烏爾文說，“最糟糕的錯誤是模型預測的很低，結(jié)果事后違規(guī)者的比例卻很高?！?/p>

巴恩斯補充說：“在與達勒姆警方磋商后，我們建立了一個98%準確率的系統(tǒng)，以避免這種最危險的“假陰性”錯誤形式，即被認為相對安全的罪犯，但隨后又犯下了嚴重的暴力罪行?！薄叭斯ぶ悄苁菬o限可調(diào)的，在構(gòu)建人工智能工具時，重要的是要權衡最符合道德標準的途徑?！?/p>

研究人員還強調(diào)，該工具的研究成果僅供參考，最終決定權還是在主管警官。

“危害風險評估工具使用達勒姆的數(shù)據(jù)，因此它只與達勒姆警察局管轄范圍內(nèi)的犯罪有關。這種局限性是為什么這些模型應該被視為輔助人類決策者而不是取代他們的原因之一，”巴恩斯解釋說?！斑@些技術本身并不是執(zhí)法的尚方寶劍，也不是所謂的國家監(jiān)視的陰險圖謀。”

謝爾曼說，警方的有些決定對社會和個人利益的影響太大，以至于大家對新興輔助技術的應用都很慎重。

基于人工智能的工具現(xiàn)在提供了巨大的希望，即利用對罪犯風險水平的預測來進行有效的“分流”，正如謝爾曼所描述的：“警察部門面臨著壓力，需要以更少的資金做更多的工作，更有效地利用資源以確保公眾安全?！?/p>

“該工具有助于識別對社區(qū)構(gòu)成重大危險的少數(shù)‘草堆中的針’，這類人群的釋放應接受額外的審查。同時，更好的甄別手段可以使危害性不大的罪犯獲得釋放，這對他們和社會都有利。”