10月31日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（簡(jiǎn)稱(chēng)全國(guó)信安標(biāo)委）網(wǎng)站發(fā)布《人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2019版）》（簡(jiǎn)稱(chēng)“白皮書(shū)”）。

如今的人工智能基于深度計(jì)算技術(shù)、依賴(lài)于大數(shù)據(jù)的“喂養(yǎng)”，白皮書(shū)指出，在數(shù)據(jù)采集環(huán)節(jié)，人工智能存在過(guò)度采集數(shù)據(jù)、個(gè)人敏感信息采集合規(guī)等問(wèn)題，需開(kāi)展隱私保護(hù)要求及技術(shù)類(lèi)標(biāo)準(zhǔn)研究工作。

人工智能面臨合規(guī)、濫用、數(shù)據(jù)泄露等安全風(fēng)險(xiǎn)

近年來(lái)，人工智能在算法、算力、和大數(shù)據(jù)因素的影響下，迎來(lái)第三次發(fā)展浪潮。它在改變?nèi)祟?lèi)生產(chǎn)生活方式的同時(shí)，也給社會(huì)帶來(lái)不可忽視的風(fēng)險(xiǎn)挑戰(zhàn)。

如今的人工智能依賴(lài)于大數(shù)據(jù)的“喂養(yǎng)”。白皮書(shū)指出，人工智能在數(shù)據(jù)采集環(huán)節(jié)，存在過(guò)度采集數(shù)據(jù)、數(shù)據(jù)采集與用戶(hù)授權(quán)不一致、個(gè)人敏感采集信息合規(guī)問(wèn)題等；還易遭受數(shù)據(jù)投毒、模仿攻擊等。

在數(shù)據(jù)使用環(huán)節(jié)，數(shù)據(jù)標(biāo)注帶來(lái)安全隱患和合規(guī)問(wèn)題。如外包公司的標(biāo)準(zhǔn)人員可直接接觸原始數(shù)據(jù)，如果管理不規(guī)范，可能存在內(nèi)部人員盜取數(shù)據(jù)、數(shù)據(jù)泄露等風(fēng)險(xiǎn)。

在應(yīng)用方面，利用人工智能技術(shù)模仿人類(lèi)，如換臉、手寫(xiě)偽造、人聲偽造等，除引發(fā)倫理道德風(fēng)險(xiǎn)外，還可能加速技術(shù)在黑灰色地帶的應(yīng)用，模糊技術(shù)應(yīng)用的合理邊界，加劇人工智能濫用風(fēng)險(xiǎn)。

其他方面，人工智能系統(tǒng)還存在數(shù)據(jù)存儲(chǔ)安全隱患、共享安全隱患、數(shù)據(jù)傳輸安全隱患等。

我國(guó)尚未有正式立項(xiàng)的人工智能自身安全的標(biāo)準(zhǔn)

面對(duì)人工智能帶來(lái)的各種安全風(fēng)險(xiǎn)，各國(guó)制定了相關(guān)的法律法規(guī)和政策。比如美國(guó)總統(tǒng)簽署行政令，啟動(dòng)“美國(guó)人工智能倡議”；英國(guó)建立數(shù)據(jù)倫理與創(chuàng)新中心為政府提供咨詢(xún)；日本成立人工智能委員會(huì)，開(kāi)展人工智能倫理道德研究 。

我國(guó)亦發(fā)布了一系列相關(guān)政策，如《新一代人工智能發(fā)展規(guī)劃》 、《國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》等，在特定領(lǐng)域如無(wú)人機(jī)、自動(dòng)駕駛等領(lǐng)域出臺(tái)相應(yīng)規(guī)范性文件。此外，特定行業(yè)和領(lǐng)域頒布或立項(xiàng)相應(yīng)標(biāo)準(zhǔn)，如生物識(shí)別領(lǐng)域的《信息安全技術(shù) 虹膜識(shí)別系統(tǒng)技術(shù)要求》等。

不過(guò)，我國(guó)尚未有正式立項(xiàng)的人工智能自身安全或基礎(chǔ)共性的安全標(biāo)準(zhǔn)。

人工智能在個(gè)人信息保護(hù)等方面存在標(biāo)準(zhǔn)化需求

結(jié)合安全分析結(jié)果和當(dāng)前標(biāo)準(zhǔn)化現(xiàn)狀等因素，白皮書(shū)指出，人工智能在算法模型、數(shù)據(jù)安全和個(gè)人信息保護(hù)、基礎(chǔ)設(shè)施安全、產(chǎn)品和應(yīng)用安全等方面存在標(biāo)準(zhǔn)化需求。

針對(duì)突出的數(shù)據(jù)安全與隱私保護(hù)風(fēng)險(xiǎn) ，白皮書(shū)建議平衡隱私保護(hù)和人工智能分析效果，防范逆向工程、隱私濫用等安全風(fēng)險(xiǎn)，開(kāi)展人工智能隱私保護(hù)要求及技術(shù)類(lèi)標(biāo)準(zhǔn)研究工作。

按照“充分研究，急用先行，安全事件推動(dòng)”的思路，白皮書(shū)建議 優(yōu)先立項(xiàng)《人工智能安全參考框架》、《人工智能數(shù)據(jù)集安全》、《人工智能數(shù)據(jù)標(biāo)注安全》、《機(jī)器學(xué)習(xí)算法模型可信賴(lài)》、《人工智能應(yīng)用安全指南》、《人工智能安全服務(wù)能力要求》等標(biāo)準(zhǔn)。