昆明信息港訊（昆明日報 記者鄭榮行） 9月16日，在第22屆中國網(wǎng)絡(luò)安全年會暨2025年國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇上，國內(nèi)首次針對人工智能大模型的實網(wǎng)眾測檢驗結(jié)果正式發(fā)布，大模型特有漏洞177個，占比超過60%。
此次活動由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺和基地提供技術(shù)支持?；顒影l(fā)布了國內(nèi)首次針對AI大模型的實網(wǎng)眾測檢驗結(jié)果，共動員559名白帽子，對國內(nèi)15款大模型及應(yīng)用產(chǎn)品進行了全面漏洞測試。測試產(chǎn)品涵蓋基礎(chǔ)大模型、垂域大模型、智能體、模型開發(fā)平臺等多種類型，既包含單模態(tài)大模型，也涵蓋多模態(tài)大模型，具有廣泛的代表性。
從結(jié)果來看，騰訊混元大模型、百度文心一言、阿里巴巴通義App、智譜華章智譜清言等產(chǎn)品發(fā)現(xiàn)的漏洞風(fēng)險較少，展現(xiàn)出較高安全防護水平?；顒舆€涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們涵蓋網(wǎng)安企業(yè)人才、科研院校師生及社會人士，從外部攻擊者視角完成多維度實戰(zhàn)化測試，即便在廠商防護下仍挖掘出高危及嚴(yán)重等級漏洞，彰顯專業(yè)能力與奉獻情懷。
值得關(guān)注的是，本次活動累計發(fā)現(xiàn)各類安全漏洞281個，其中大模型特有漏洞177個，占比超60%，凸顯AI大模型面臨傳統(tǒng)安全領(lǐng)域之外的新興風(fēng)險。典型漏洞風(fēng)險包括部分產(chǎn)品不當(dāng)輸出類漏洞危害嚴(yán)重、信息泄露類漏洞多發(fā)、提示注入類漏洞普遍、無限制消耗類攻擊防護不足及傳統(tǒng)安全漏洞仍存等。
對此，活動明確AI大模型安全治理需各方發(fā)力，持續(xù)加強安全防護措施應(yīng)對各類漏洞風(fēng)險，加快制定AI漏洞分類分級及場景風(fēng)險等級標(biāo)準(zhǔn)，通過眾測模式匯聚社會白帽力量構(gòu)筑共治生態(tài)，加強內(nèi)生安全治理，并將安全融入AI系統(tǒng)全生命周期。
業(yè)內(nèi)人士指出，隨著人工智能應(yīng)用場景不斷拓展，新的風(fēng)險和攻擊方式仍將持續(xù)出現(xiàn)，AI大模型安全治理工作任重道遠(yuǎn)，亟須各方共同努力從源頭筑牢安全基石。
信息港微信公眾號
信息港微博公眾號