大數(shù)據(jù)存在明顯的安全問題和安全風(fēng)險，導(dǎo)致使用者或管理者面臨著巨大挑戰(zhàn)。通常來講，教師、學(xué)生以及行政管理丁作者是教育管理大數(shù)據(jù)的制造源，可以通過數(shù)據(jù)積累的方式，幫助數(shù)據(jù)使用者更好地分析學(xué)生或教師的個性特征、行為規(guī)律、心智狀況、生活習(xí)性，提升數(shù)據(jù)挖掘的精準(zhǔn)性。然而，這些教育大數(shù)據(jù)在搜集、挖掘、處理過程中，存在真實性差、數(shù)據(jù)安全、隱私安全等問題，需要全新的管理制度、道德標(biāo)準(zhǔn)以及法律法規(guī)來解決。

特別是在分析學(xué)生行為數(shù)據(jù)過程中，學(xué)生的生活隱私將大概率地呈現(xiàn)在數(shù)據(jù)使用者面前，導(dǎo)致學(xué)生對大數(shù)據(jù)技術(shù)產(chǎn)生抵觸心理，不利于后續(xù)教育管理工作的有效開展。此外，在分析與挖掘課程數(shù)據(jù)、教學(xué)數(shù)據(jù)等教育數(shù)據(jù)中，學(xué)生隱私安全雖然能夠得到保障，然而在互聯(lián)網(wǎng)環(huán)境中，數(shù)據(jù)使用者還可能面臨著網(wǎng)絡(luò)黑客、網(wǎng)絡(luò)病毒以及系統(tǒng)漏洞等風(fēng)險。其中，系統(tǒng)漏洞、黑客攻擊，容易導(dǎo)致各類教學(xué)數(shù)據(jù)、管理數(shù)據(jù)、學(xué)生數(shù)據(jù)泄露，給教育管理T作帶來嚴(yán)重影響。

教育大數(shù)據(jù)能夠切實實現(xiàn)教育管理的個性化目標(biāo)，增強(qiáng)管理的精準(zhǔn)性與針對性，幫助學(xué)校結(jié)合學(xué)生的體質(zhì)、性別、年齡等要素，明確學(xué)生的發(fā)展需求,推動學(xué)生的全面發(fā)展。比如，結(jié)合普通學(xué)生的學(xué)習(xí)偏好、學(xué)習(xí)方法、接受能力、學(xué)習(xí)水平，制訂個性化的教學(xué)方案，減輕學(xué)生的學(xué)習(xí)負(fù)擔(dān)。然而在此過程中，學(xué)生的隱私安全、信息安全將受到嚴(yán)重的沖擊和影響。為切實解決此類問題，需要從以下角度出發(fā)。

首先，通過優(yōu)化技術(shù)，提高數(shù)據(jù)的模糊性，降低學(xué)生、教師和相關(guān)人員的數(shù)據(jù)呈現(xiàn)概率，使數(shù)據(jù)使用者獲取的數(shù)據(jù)以概括性、宏觀性、結(jié)果性的方式呈現(xiàn)出來。其次，加強(qiáng)職業(yè)道德標(biāo)準(zhǔn)、管理制度的構(gòu)建，借助問責(zé)機(jī)制，加大懲罰力度，避免數(shù)據(jù)泄露現(xiàn)象的發(fā)生。最后，加強(qiáng)網(wǎng)絡(luò)安全管理，避免網(wǎng)絡(luò)黑客、網(wǎng)絡(luò)病毒以及系統(tǒng)漏洞對教育管理大數(shù)據(jù)平臺產(chǎn)生不利影響。

早在2014年，亞馬遜開發(fā)了一套人力資源管理系統(tǒng)。這套系統(tǒng)用人工智能來分析篩選求職簡歷，通過給求職者打分，在一百份簡歷中篩選出“最好”的五位，直接錄用。

但一年以后問題就出現(xiàn)了，這套算法工具基于的數(shù)據(jù)是亞馬遜此前十年的員工資料，基礎(chǔ)數(shù)據(jù)本身存在性別不平衡，于是算法分析歸納后得出了一個帶有偏見的結(jié)論：男員工比女員工更可靠。

缺陷一經(jīng)暴露，立刻引起了人們的道德不適，引發(fā)了社會的強(qiáng)烈質(zhì)疑和反思。而這種公共情緒和輿論反抗，也隨之產(chǎn)生了積極的意義。

亞馬遜的“翻車”使得這項技術(shù)停止在公司使用，還有咨詢公司在相關(guān)報告中提出了技術(shù)改進(jìn)方式，比如，不向算法提供員工個體生理、文化屬性等，避開帶有傾向性的價值判斷。

2021年8月20日，第十三屆全國人大常委會第三十次會議審議通過的《中華人民共和國個人信息保護(hù)法》中，就包含了對算法推薦這類“大數(shù)據(jù)殺熟”問題的相關(guān)規(guī)定。

第24條規(guī)定，通過自動化決策方式向個人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時提供不針對其個人特征的選項，或者向個人提供拒絕的方式。

就在今年1月4日，中國網(wǎng)信網(wǎng)發(fā)布了國家網(wǎng)信辦等多部門聯(lián)合修訂的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，要求不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇。

這一切都意味著，利用大數(shù)據(jù)“殺熟”或?qū)⒊蛇^去式。

這也符合劉永謀所思考的大數(shù)據(jù)治理的合理的規(guī)則設(shè)計，即增加公眾的參與、反饋，應(yīng)該成為技術(shù)、制度調(diào)整的依據(jù)。

沒有一項技術(shù)、制度設(shè)計是一勞永逸的。

習(xí)近平總書記指出，要完善數(shù)字經(jīng)濟(jì)治理體系，健全法律法規(guī)和政策制度，完善體制機(jī)制，提高我國數(shù)字經(jīng)濟(jì)治理體系和治理能力現(xiàn)代化水平。傳統(tǒng)的治理體系、機(jī)制與規(guī)則難以適應(yīng)數(shù)字化發(fā)展所帶來的變革，無法有效解決數(shù)字平臺崛起所帶來的市場壟斷、稅收侵蝕、安全隱私、倫理道德等問題，需盡快構(gòu)建數(shù)字治理體系，數(shù)字經(jīng)濟(jì)治理無疑是其核心內(nèi)容之一。數(shù)字治理體系的構(gòu)建是一個長期迭代過程，其中，數(shù)據(jù)治理體系的構(gòu)建要先行。數(shù)據(jù)治理體系建設(shè)涉及國家、行業(yè)和組織三個層次，包含數(shù)據(jù)的資產(chǎn)地位確立、管理體制機(jī)制、共享與開放、安全與隱私保護(hù)等內(nèi)容，需要從制度法規(guī)、標(biāo)準(zhǔn)規(guī)范、應(yīng)用實踐和支撐技術(shù)等方面多管齊下，提供支撐。當(dāng)前國際數(shù)字治理體系尚處探索期，既有全球性多邊機(jī)制，也有區(qū)域性或雙邊機(jī)制，更有私營平臺企業(yè)的事實性規(guī)則。由于各國數(shù)字治理關(guān)注重點(diǎn)不同、發(fā)展程度有差異，未來全球數(shù)字治理體系將呈現(xiàn)面向關(guān)注點(diǎn)差異的、多元化層次化的、多機(jī)制共存的格局。