美陸軍聯(lián)合工業(yè)部門研究人員共同研發(fā)一種神經(jīng)網(wǎng)絡(luò)衡量標(biāo)準(zhǔn)，用于評(píng)估下一代人工智能和機(jī)器學(xué)習(xí)算法的可靠性與可信度。

背景

深度神經(jīng)網(wǎng)絡(luò)（DNNs）是一種利用訓(xùn)練數(shù)據(jù)學(xué)習(xí)的機(jī)器學(xué)習(xí)形式，一旦數(shù)據(jù)接受訓(xùn)練，即可在獲取新信息或輸入信息時(shí)做出預(yù)測(cè)；但如果新的信息超出訓(xùn)練范圍，則很容易做出虛假判斷。研究人員表示，鑒于訓(xùn)練數(shù)據(jù)和潛在輸入數(shù)據(jù)的信息多樣性，解決上述問(wèn)題非常具有挑戰(zhàn)性。

研究成果應(yīng)用

美陸軍研究實(shí)驗(yàn)室研究人員認(rèn)為，此項(xiàng)研究為創(chuàng)造下一代強(qiáng)大而有彈性的算法提供了一個(gè)新的研究機(jī)會(huì)，該方法用途廣泛，可作為附加模塊應(yīng)用于陸軍眾多現(xiàn)代化算法中。新的衡量標(biāo)準(zhǔn)可幫助陸軍開(kāi)發(fā)更加安全可靠的機(jī)器學(xué)習(xí)技術(shù)，并可應(yīng)用于指揮控制系統(tǒng)、精確打擊和決策支持系統(tǒng)。

雖然目前工作已經(jīng)取得一定成果，但尚未研發(fā)出可檢測(cè)新型攻擊的方法。在研究過(guò)程中，研究團(tuán)隊(duì)提出了一個(gè)生成模型，該模型可以調(diào)整底層原始深層神經(jīng)網(wǎng)絡(luò)中原始輸入圖像的各個(gè)方面，然后評(píng)估原始深層神經(jīng)網(wǎng)絡(luò)對(duì)這些生成的輸入的響應(yīng)，以測(cè)量模型的一致性。該方法不需要訪問(wèn)訓(xùn)練數(shù)據(jù)，不需要使用集合或需要在與訓(xùn)練集不同的驗(yàn)證數(shù)據(jù)集上訓(xùn)練校準(zhǔn)模型。

下一步計(jì)劃

研究人員將繼續(xù)與測(cè)試和評(píng)估團(tuán)隊(duì)合作，完善算法，以衡量各種算法在不同應(yīng)用程序中的可信度。該方法也對(duì)陸軍發(fā)展現(xiàn)代化優(yōu)先事項(xiàng)具有重要意義，對(duì)下一代網(wǎng)絡(luò)解決方案具有很重要的應(yīng)用價(jià)值，向戰(zhàn)場(chǎng)作戰(zhàn)人員提供技術(shù)能力。