警惕人工智能事不宜遲

人工智能（AI）研究正在朝著人類級或超人類智能機器的長期目標大步邁進，然而，如果它以目前的形式取得成功，很可能給人類帶來災難性的影響。原因在于，人工智能的“標準模型”要求機器去追求人類指定的固定目標。我們無法完全正確地指定目標，也無法預測或預防追求錯誤目標的超能力機器在全球范圍內(nèi)會造成的傷害。我們已經(jīng)看到了一些例子，比如社交媒體算法利用人們的偏好來優(yōu)化點擊量，這給民主體制帶來了災難性的后果。