什么是對(duì)抗機(jī)器學(xué)習(xí)？為何要對(duì)抗機(jī)器學(xué)習(xí)？

對(duì)抗機(jī)器學(xué)習(xí)是一個(gè)機(jī)器學(xué)習(xí)與計(jì)算機(jī)安全的交叉領(lǐng)域。對(duì)抗機(jī)器學(xué)習(xí)旨在給惡意環(huán)境下的機(jī)器學(xué)習(xí)技術(shù)提供安全保障。由于機(jī)器學(xué)習(xí)技術(shù)一般研究的是同一個(gè)或較為穩(wěn)定的數(shù)據(jù)分布，當(dāng)部署到現(xiàn)實(shí)中的時(shí)候，由于惡意用戶的存在，這種假設(shè)并不一定成立。比如研究人員發(fā)現(xiàn)，一些精心設(shè)計(jì)的對(duì)抗樣本(adversarial example)可以使機(jī)器學(xué)習(xí)模型不能成功地輸出正確的結(jié)果。針對(duì)模型的攻擊問(wèn)題，我們主要分為兩大類，就是從訓(xùn)練階段和推理(inference)階段來(lái)進(jìn)行討論。