“當(dāng)真相在穿鞋的時(shí)候，謊言已經(jīng)跑遍全城?！爆F(xiàn)代社會，虛假新聞、圖片、視頻，甚至商品等借助網(wǎng)絡(luò)渠道迅速傳播。近日公布的《中老年人上網(wǎng)狀況及風(fēng)險(xiǎn)網(wǎng)絡(luò)調(diào)查報(bào)告》顯示，近六成中老年曾遭受過網(wǎng)絡(luò)謠言的危害。

人們常說“流言止于智者”，要想不被網(wǎng)上的流言和謠言盅惑、傷害，首先需要對其進(jìn)行科學(xué)甄別，而時(shí)下人工智能正在嘗試擔(dān)任這一角色。那么，在打假一線AI技術(shù)如何做到去偽存真？這樣的“本領(lǐng)”可應(yīng)用在哪些領(lǐng)域？

“虛假信息的產(chǎn)生主要有兩類動機(jī)：一類是利益驅(qū)動，2018年發(fā)表于《科學(xué)》的研究發(fā)現(xiàn)，要達(dá)到相同的傳播深度，虛假信息的速度是正常信息的20倍；另一類是政治驅(qū)動，在現(xiàn)有互聯(lián)網(wǎng)經(jīng)濟(jì)中，高效傳播代表著高額經(jīng)濟(jì)價(jià)值，人工智能技術(shù)會被不法分子用來左右公眾對于政治的認(rèn)知和判斷，從而控制輿論，威脅政治安全。研究顯示，2016年美國總統(tǒng)大選期間，受訪選民平均每人每天接觸到4篇虛假新聞。虛假新聞被認(rèn)為影響了2016年美國大選和英國脫歐的投票結(jié)果?！敝锌圃河?jì)算所副研究員、博士生導(dǎo)師曹娟在日前北京舉辦的Women Who Code講座上介紹。

為了減少虛假信息，有必要對網(wǎng)絡(luò)新聞進(jìn)行認(rèn)證。但大型資訊聚合類平臺每天的新聞發(fā)布量一般在50萬條以上，顯然完全依靠人工認(rèn)證是不現(xiàn)實(shí)的，面向公眾，亟待建立高效的AI識謠平臺。

杜克大學(xué)新聞研究中心的調(diào)查顯示：截至2018年2月，全球共有149個(gè)正在活躍運(yùn)營的事實(shí)核查類新聞創(chuàng)業(yè)項(xiàng)目，其中北美和歐洲74個(gè)、亞洲7個(gè)。而在一些國外社交平臺上，已有自動化可信度評估插件來顯示信息的可信度。

據(jù)了解，目前國內(nèi)已有的主要識謠、辟謠平臺基本還是依靠專家識別模式，其存在一定的問題：發(fā)現(xiàn)線索主要依賴用戶舉報(bào)，數(shù)量有限，時(shí)效性不強(qiáng)，往往是事件已造成負(fù)面影響才“后知后覺”；此外，新聞?wù)J證速度有待提高。Facebook統(tǒng)計(jì)，依靠專家辟謠的認(rèn)證模式平均滯后3天，錯(cuò)失辟謠最佳時(shí)期；覆蓋類別受限，專家只能在自身擅長的領(lǐng)域辟謠，領(lǐng)域?qū)＜規(guī)斓亩鄻有詻Q定了人工辟謠平臺的能力上限。

為提高識謠效率，目前中科院計(jì)算機(jī)研究所、阿里、騰訊等多家企業(yè)和機(jī)構(gòu)已經(jīng)開展了人工智能識謠工作。曹娟帶領(lǐng)團(tuán)隊(duì)從2013年開始致力于開展基于人工智能技術(shù)的虛假信息檢測研究，她介紹，AI識謠公眾平臺可自動及時(shí)發(fā)現(xiàn)可疑線索并進(jìn)行認(rèn)證，大大降低謠言可能帶來的危害；通過機(jī)器學(xué)習(xí)算法輔助人工審核，僅需1分鐘即能對疑似謠言事件發(fā)出預(yù)警；基于數(shù)據(jù)驅(qū)動的方法，平臺還可不斷挖掘出不同類別謠言的特性，實(shí)現(xiàn)對各種謠言地自動識別。

不過，需要指出的是，“虛假信息識別是一個(gè)高度復(fù)雜的問題，一方面是虛假的定義并不明確，需要不確定性建模；另一方面是標(biāo)注很困難，需要小樣本學(xué)習(xí)方法。目前，機(jī)器學(xué)習(xí)算法的準(zhǔn)確率尚不足以完全取代人類，但已能夠輔助人類更快更好地審核新聞?！辈芫瓯硎尽Ｕ缭瞬袼f，“想要完全依靠AI審核內(nèi)容，可能尚需5—10年時(shí)間”。

“虛假新聞往往從選題、文字表述，到配圖都呈現(xiàn)出較強(qiáng)煽動性：一般選題集中于社會熱點(diǎn)或爭議點(diǎn)；文字描述中情感激烈；配圖具有視覺沖擊力等?！辈芫昶饰龅?。

曹娟介紹，目前，中科院計(jì)算所開發(fā)的辟謠平臺已積累數(shù)萬條假新聞信息，累計(jì)認(rèn)證數(shù)十萬次。通過平臺積累的數(shù)據(jù)，目前可從新聞質(zhì)量的角度把杜撰的新聞文本大致分為三類：一完全杜撰，往往是在真實(shí)存在的實(shí)體上編造情節(jié)；二半真半假，可能描述的前半段是真，后半段就展開不可靠的想像，或者一部分是真，但在關(guān)鍵情節(jié)上添油加醋；三舊聞新傳、移花接木，事件本身可能存在，但發(fā)布者故意模糊化甚至篡改原事件中的時(shí)間、地點(diǎn)，讓人誤以為事情剛剛發(fā)生在當(dāng)?shù)乇弧?/p>

除去文字造假，圖片視頻造假也越來越多?！拔覀儗⑻摷傩侣勁鋱D分為復(fù)用的過時(shí)圖片、能引起歧義的誤導(dǎo)性圖片及篡改圖片。假新聞通常呈現(xiàn)出新聞要素缺失、圖像質(zhì)量低、內(nèi)容包含色情敏感廣告等低俗信息，以及圖文不匹配等特點(diǎn)。例如，有些假新聞中的配圖會出現(xiàn)滿屏彌漫沖天大火、公路凹陷深坑、被棄男童在垃圾廢墟前嚎啕等畫面?！辈芫昝枋龅溃爸{言更易形成病毒式擴(kuò)散的趨勢，而真實(shí)新聞的擴(kuò)散速度和爆發(fā)度要溫和許多?！?/p>

“從核心技術(shù)上，AI甄別謠言依賴于‘三多’?！辈芫暾f，一是多模態(tài)數(shù)據(jù)，謠言從發(fā)布、傳播到被辟謠的生命周期中，可能會伴隨產(chǎn)生文字、圖片、視頻、傳播網(wǎng)絡(luò)、參與用戶屬性等多種模態(tài)的數(shù)據(jù)，各模態(tài)數(shù)據(jù)均能不同程度指示謠言，例如謠言文字的情感傾向、圖片的視覺沖擊力、傳播網(wǎng)絡(luò)的結(jié)構(gòu)屬性等，但沒有哪種模態(tài)的數(shù)據(jù)擁有獨(dú)立完全的謠言指示能力，所以要盡可能獲取不同模態(tài)的數(shù)據(jù)。

二是多層次表示，深度學(xué)習(xí)技術(shù)有強(qiáng)大的表示學(xué)習(xí)能力，經(jīng)過神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和融合機(jī)制的設(shè)計(jì)，AI模型可以在面對眾多意義、形式、結(jié)構(gòu)都不同的模態(tài)數(shù)據(jù)時(shí)，綜合不同層次數(shù)據(jù)，自動找出最有區(qū)分能力的表示組合，并將待甄別文章對應(yīng)的文字、圖片、傳播網(wǎng)絡(luò)等融合投射到特征空間中。

三是多角度判斷，AI可以從單一方面（如內(nèi)容、用戶、傳播）給出可信度，也可以全面觀察，給出綜合所有信息的可信度，及時(shí)幫助人們“揪出”可信度不高的信息。

曹娟介紹，目前除了鑒別虛假新聞、虛假圖片，AI虛假檢測技術(shù)還可以應(yīng)用在對虛假商品的檢測上，如基于視覺信息技術(shù)鑒定一些高檔商品的真?zhèn)巍?/p>

2017年，美國紐約大學(xué)成功研發(fā)出一套假貨鑒定系統(tǒng)Entrupy，用戶利用配有微型相機(jī)的手持設(shè)備對鑒定物品進(jìn)行拍攝，這個(gè)系統(tǒng)利用機(jī)器學(xué)習(xí)算法，分析圖像，最終確定產(chǎn)品的真實(shí)性。其聯(lián)合創(chuàng)始人介紹，除了表面是屈光的鉆石和瓷器不能檢測外，這項(xiàng)技術(shù)使用光學(xué)分析可測試汽車零部件、手機(jī)、充電器、耳機(jī)、夾克和鞋子，甚至原油。

近日，中國科學(xué)院計(jì)算技術(shù)研究所與國內(nèi)某奢侈品電商宣布共建聯(lián)合實(shí)驗(yàn)室，探索智能鑒定和智能內(nèi)容分發(fā)、在線鑒定商品業(yè)務(wù)等內(nèi)容。那么，AI如何對商品，如包、鞋辨別真假；在識別假貨方面，AI可替代專家嗎？

“與人識別假貨相比，在強(qiáng)度、效率等方面，AI有著突出表現(xiàn)。例如，一般識別假LV包的專家，工作一天只能鑒定五六個(gè)包，而AI篩查一個(gè)包僅需幾分鐘。實(shí)際操作中，AI先在大量篩選中發(fā)現(xiàn)異常情況，報(bào)警示錯(cuò)，再由專家來做進(jìn)一步甄別。即以AI技術(shù)打假為主、以人工審核為輔，AI還不能替代專家?！辈芫暾f。

曹娟表示，虛假商品檢測可形式化為異常檢測問題。正品樣本往往量很大，但仿品樣本量很小，甚至為零。這時(shí)候，只能對大量正品進(jìn)行建模表示，然后對待檢測樣本，要看它與正品相比是否存在異常。但單純的數(shù)據(jù)學(xué)習(xí)是困難的，鑒別中還要結(jié)合鑒定專家的經(jīng)驗(yàn)知識，以引導(dǎo)模型學(xué)到快速定位異常區(qū)域的能力；同時(shí)，模型通過數(shù)據(jù)驅(qū)動發(fā)現(xiàn)的視覺規(guī)律，也會反饋給專家。因此，這是一個(gè)專家和模型相互學(xué)習(xí)、迭代提高的過程。