《2026年國(guó)際AI安全報(bào)告》揭示快速變化與新興風(fēng)險(xiǎn)

蒙特利爾2026年2月4日 /美通社/ -- 《2026年國(guó)際AI安全報(bào)告》今日發(fā)布，為通用型AI能力、新興風(fēng)險(xiǎn)以及風(fēng)險(xiǎn)管理與安全防護(hù)的現(xiàn)狀提供了最新的、國(guó)際共享的科學(xué)評(píng)估。

由圖靈獎(jiǎng)得主Yoshua Bengio主持編纂的本次《國(guó)際AI安全報(bào)告》（第二版）匯集了100多位國(guó)際專家，并得到專家咨詢委員會(huì)的支持。該委員會(huì)成員來(lái)自30多個(gè)國(guó)家及國(guó)際組織，包括歐盟、經(jīng)合組織及聯(lián)合國(guó)。 報(bào)告的研究結(jié)論將為本月晚些時(shí)候由印度主辦的AI Impact Summit相關(guān)討論提供參考。

報(bào)告的主要亮點(diǎn)包括：

• 通用型AI能力持續(xù)快速提升，尤其在數(shù)學(xué)、編程和自主運(yùn)行方面表現(xiàn)突出。2025年，領(lǐng)先的AI系統(tǒng)在國(guó)際數(shù)學(xué)奧林匹克題目中取得“金牌級(jí)”表現(xiàn)，在科學(xué)基準(zhǔn)測(cè)試中超過(guò)博士級(jí)專家水平，并能夠自主完成一些本需人類程序員耗費(fèi)數(shù)小時(shí)的軟件工程任務(wù)。 盡管如此，整體表現(xiàn)仍顯“參差不齊”，在某些看似簡(jiǎn)單的任務(wù)上仍會(huì)出現(xiàn)失敗。
• AI的普及速度迅猛，但全球分布不均。 AI的普及速度已超過(guò)個(gè)人電腦等以往技術(shù)，目前每周使用領(lǐng)先AI系統(tǒng)的人數(shù)至少達(dá)到7億。 在部分國(guó)家，超過(guò)一半的人口已在使用AI；但在非洲、亞洲和拉丁美洲的許多地區(qū)，預(yù)計(jì)采用率仍低于10%。
• 與深度偽造（deepfake）相關(guān)的事件正在上升。AI生成的深度偽造內(nèi)容越來(lái)越多地被用于欺詐和詐騙。 AI生成的非自愿親密影像也日益普遍，這類內(nèi)容對(duì)女性和女孩的影響尤為嚴(yán)重。 例如，一項(xiàng)研究發(fā)現(xiàn)，在20款流行的“nudify”應(yīng)用中，有19款專門用于模擬女性脫衣。
• 對(duì)生物濫用的擔(dān)憂促使部分領(lǐng)先模型加強(qiáng)了安全防護(hù)。2025年，多家AI公司在部署前測(cè)試發(fā)現(xiàn)，系統(tǒng)仍可能在實(shí)質(zhì)上幫助新手開發(fā)生物武器，因此推出了具備更高安全防護(hù)的新模型。
• 包括犯罪分子在內(nèi)的惡意行為者正積極將通用型AI用于網(wǎng)絡(luò)攻擊。AI系統(tǒng)能夠生成有害代碼，并發(fā)現(xiàn)可被犯罪分子利用的軟件漏洞。 2025年，一個(gè)AI智能體在一項(xiàng)大型網(wǎng)絡(luò)安全競(jìng)賽中躋身參賽團(tuán)隊(duì)前5%。 地下市場(chǎng)如今出售預(yù)打包的AI工具，大幅降低了發(fā)動(dòng)攻擊所需的技術(shù)門檻。
• 多項(xiàng)安全防護(hù)正在改進(jìn)，但當(dāng)前風(fēng)險(xiǎn)管理手段仍存在失效可能。 盡管某些失敗類型（如“幻覺(jué)”）已不那么常見(jiàn)，但部分模型如今能夠區(qū)分評(píng)估環(huán)境與部署環(huán)境，并據(jù)此調(diào)整自身行為，這為評(píng)估與安全測(cè)試帶來(lái)了新的挑戰(zhàn)。

報(bào)告主編、蒙特利爾大學(xué)全職教授、LawZero科學(xué)主任兼Mila - Quebec AI Institute科學(xué)顧問(wèn)Yoshua Bengio表示：

“自一年前首份《國(guó)際AI安全報(bào)告》發(fā)布以來(lái)，我們不僅見(jiàn)證了模型能力的顯著躍升，也看到了其潛在風(fēng)險(xiǎn)的同步增加。技術(shù)進(jìn)步的速度與我們實(shí)施有效安全防護(hù)的能力之間仍存在差距，這依然是一項(xiàng)關(guān)鍵挑戰(zhàn)。 本報(bào)告旨在為決策者提供嚴(yán)謹(jǐn)證據(jù)，幫助引導(dǎo)AI邁向一個(gè)安全、可靠、惠及所有人的未來(lái)。 通過(guò)第二版報(bào)告，我們正在更新并深化對(duì)前沿AI在全球范圍內(nèi)快速發(fā)展的科學(xué)認(rèn)知，并強(qiáng)化這一共同理解。 ”

英國(guó)AI大臣Kanishka Narayan表示：

“對(duì)AI的信任與信心，是釋放其全部潛力的關(guān)鍵。 這是一項(xiàng)能夠帶來(lái)更優(yōu)質(zhì)公共服務(wù)、新就業(yè)機(jī)會(huì)及改變生活的創(chuàng)新技術(shù)。 同時(shí)，隨著技術(shù)的發(fā)展，我們也將堅(jiān)定致力于保障公眾安全。 負(fù)責(zé)任的AI發(fā)展是全球共同關(guān)注的優(yōu)先事項(xiàng)。唯有攜手合作，我們才能塑造一個(gè)帶來(lái)積極變革的未來(lái)。 這份報(bào)告正是為此而編撰——匯聚全球?qū)＜?，確保我們擁有堅(jiān)實(shí)的科學(xué)證據(jù)基礎(chǔ)，從而在當(dāng)下做出明智決策，為更加光明、安全的未來(lái)奠定基石?！?/i>