蒙特利爾2025年10月17日 /美通社/ -- 《國(guó)際人工智能安全報(bào)告》首次關(guān)鍵更新已發(fā)布，就先進(jìn)人工智能的能力與風(fēng)險(xiǎn)提供了最新信息。

該報(bào)告由圖靈獎(jiǎng)得主、計(jì)算機(jī)科學(xué)家Yoshua Bengio總體負(fù)責(zé)，匯集了100多位國(guó)際專家，并得到30多個(gè)國(guó)家以及包括歐盟、經(jīng)合組織和聯(lián)合國(guó)在內(nèi)的國(guó)際組織的支持。

鑒于人工智能領(lǐng)域發(fā)展過(guò)于迅速，單一年度報(bào)告難以全面覆蓋，因此推出了《關(guān)鍵更新》，以提供篇幅更短、重點(diǎn)更突出的關(guān)鍵發(fā)展動(dòng)態(tài)報(bào)告。 這將確保決策者能夠及時(shí)獲取最新文獻(xiàn)綜述，為基于證據(jù)的政策制定提供依據(jù)。

首個(gè)《關(guān)鍵更新》涵蓋能力提升和風(fēng)險(xiǎn)影響：

• 人工智能模型在復(fù)雜問題解決能力上持續(xù)提升：例如，領(lǐng)先的系統(tǒng)現(xiàn)已能完成一組現(xiàn)實(shí)世界軟件工程問題中超60%的任務(wù)。 到2025年初，他們只能解決約40%的相關(guān)問題，而在2024年初他們尚無(wú)法解決任何問題。 （事實(shí)上，自《關(guān)鍵更新》文本最終確定以來(lái)，性能已提高到70％以上。）
• 行業(yè)參與者已經(jīng)采取了新的預(yù)防性保障措施：多家主要人工智能開發(fā)商在無(wú)法完全排除其新模型可能被用于協(xié)助開發(fā)化學(xué)、生物、放射和核風(fēng)險(xiǎn)的情況下，主動(dòng)為最新模型增加了額外安全措施后發(fā)布。
• 人工智能模型在評(píng)估過(guò)程中日益表現(xiàn)出策略性行為，給監(jiān)管帶來(lái)挑戰(zhàn)：人工智能模型越來(lái)越可能意識(shí)到自己正在接受評(píng)估，并據(jù)此調(diào)整輸出結(jié)果，這對(duì)開發(fā)人員和測(cè)試人員在部署新模型之前準(zhǔn)確評(píng)估新模型能力的能力提出了重大質(zhì)疑。

該報(bào)告主席、蒙特利爾大學(xué)全職教授、LawZero科學(xué)總監(jiān)兼Mila - Quebec AI Institute科學(xué)顧問Yoshua Bengio表示：

“自九個(gè)月前發(fā)布第一份《國(guó)際人工智能安全報(bào)告》以來(lái)，人工智能能力保持著快速而穩(wěn)定的發(fā)展勢(shì)頭。 我們對(duì)人工智能風(fēng)險(xiǎn)和安全措施的集體認(rèn)知必須與時(shí)俱進(jìn)，這一點(diǎn)至關(guān)重要。 本次《關(guān)鍵更新》為全球決策者提供了基于證據(jù)的最新信息概覽，助其掌握最前沿的科學(xué)資訊，從而確保治理工作具有前瞻性和科學(xué)性。 它還發(fā)揮了銜接作用，為將于2026年初在印度舉辦的人工智能影響力峰會(huì)前發(fā)布的綜合報(bào)告做好準(zhǔn)備。”

關(guān)于

《國(guó)際人工智能安全報(bào)告》綜合了關(guān)于先進(jìn)人工智能系統(tǒng)能力與風(fēng)險(xiǎn)的各類證據(jù)。 它旨在通過(guò)為決策者提供證據(jù)基礎(chǔ)，支持全球知情決策。 該報(bào)告由100多名獨(dú)立專家組成的多元化小組撰寫，由來(lái)自30多個(gè)國(guó)家以及包括歐盟、經(jīng)合組織和聯(lián)合國(guó)在內(nèi)的國(guó)際組織的提名代表組成的專家咨詢小組提供支持。 在承認(rèn)人工智能具有巨大潛在效益的同時(shí)，該報(bào)告的重點(diǎn)是識(shí)別風(fēng)險(xiǎn)并評(píng)估緩解策略，以確保人工智能得到安全開發(fā)和使用，從而造福全人類。 該報(bào)告由英國(guó)政府委托編寫，秘書處設(shè)在英國(guó)人工智能安全研究所。