人工智能(AI)技術在重塑全球產業(yè)格局的同時，也引發(fā)了從底層技術到全球應用層面的多維安全風險。本文以2025年至今與AI安全相關的國家政策、國際治理實踐及智庫報告為研究對象，梳理全球AI安全風險圖譜，提出技術與規(guī)則雙輪驅動的治理趨勢，為全球AI安全治理提供參考。
全球AI安全風險圖譜
當前，AI安全風險已從單純的技術層面，延伸至個人、產業(yè)、國家、國際各個層面。技術層面的風險是底層安全風險，AI技術不僅提升了“釣魚”詐騙、身份冒用、漏洞挖掘、惡意軟件攻擊等傳統(tǒng)網(wǎng)絡安全威脅的危害性與隱蔽性，還催生了數(shù)據(jù)投毒、提示注入、敏感信息竊取等一系列新型安全風險；個人層面風險體現(xiàn)在深度偽造濫用引發(fā)的隱私侵害，生成式AI技術導致未經同意的偽造內容制作與傳播成為全球性社會問題；產業(yè)層面風險來源于AI對產業(yè)發(fā)展的威脅，生成式AI大幅降低了網(wǎng)絡犯罪的技術門檻，并可能引發(fā)金融、能源等產業(yè)的系統(tǒng)性風險；國家層面風險聚焦主權安全，國家關鍵基礎設施易淪為AI驅動型網(wǎng)絡攻擊的靶標，AI核心技術的外部依賴也會對國家主權安全形成潛在威脅；國際層面風險則包括“數(shù)字鴻溝”“AI軍備競賽”等隱患。
技術賦能：全球AI安全防控技術體系構建
全球主要國家和組織的AI安全技術布局
美國從硬件、基礎設施和前沿技術層面鞏固國家AI安全。在硬件層面，《贏得人工智能競賽：美國人工智能行動計劃》強調恢復本土半導體制造產業(yè)，保障AI算力硬件安全；在基礎設施層面，美國提出建立“高安全數(shù)據(jù)中心技術標準”，確保敏感數(shù)據(jù)處理設施能夠抵御高級網(wǎng)絡攻擊；在前沿技術層面，《特朗普總統(tǒng)的美國網(wǎng)絡戰(zhàn)略》主張盡快推廣生成式和代理式人工智能用于網(wǎng)絡防御。
歐盟加強算力基礎設施與數(shù)據(jù)資源建設，以維護AI主權安全。歐盟《人工智能大陸行動計劃》提出，建立至少19個AI工廠和5個專注前沿模型訓練的AI超級工廠，推動未來5~7年內數(shù)據(jù)中心容量增長兩倍，為AI安全夯實算力基礎。歐盟還頒布《數(shù)據(jù)聯(lián)盟戰(zhàn)略》，推動專業(yè)數(shù)據(jù)實驗室的設立，以高質量數(shù)據(jù)支撐AI系統(tǒng)安全運行。
與此同時，其他國家也積極開展AI安全技術探索。新加坡升級推出“全球AI保障沙盒”，將AI大模型的數(shù)據(jù)泄露、提示注入攻擊等前沿風險納入監(jiān)管研究范疇，為AI安全測試提供可控環(huán)境；韓國個人信息保護委員會于2025年8月發(fā)布《生成式人工智能開發(fā)與應用個人數(shù)據(jù)處理指南》，明確規(guī)定生成式AI從開發(fā)到應用全生命周期中各個階段應采取的基本安全措施；馬來西亞目前正推動出臺AI網(wǎng)絡安全指南，旨在構建自主AI安全技術生態(tài)。
智庫聚焦的AI安全前沿技術方向
蘭德公司在《先進人工智能時代的網(wǎng)絡安全致勝經濟學》報告中強調，應積極構建適配網(wǎng)絡安全需求的AI技術生態(tài)。具體而言，將研發(fā)部門輸出的專用算法、訓練框架等關鍵技術成果，通過標準化接口、開源工具等形式向應用層開放；建設異構計算資源池、可信數(shù)據(jù)平臺及低代碼開發(fā)環(huán)境等規(guī)模化、易接入的應用基礎設施，以此大幅降低技術使用門檻，賦能更多領域網(wǎng)絡安全防護場景。
Gartner《2026年網(wǎng)絡安全六大趨勢的預測》與谷歌《2026AI智能體趨勢報告》提出，AI智能體具備“推理—行動—觀察—調整”閉環(huán)能力，可推動安全運營從傳統(tǒng)的“被動響應”向“主動防御”升級，增強網(wǎng)絡防御能力，但同時也會增加身份注冊與管理、憑證自動化管理、基于策略的授權機制等安全風險。
美國安全與新興技術中心在《預測人工智能對網(wǎng)絡攻防平衡的影響》報告中指出：一方面，攻擊者可以利用AI技術對傳統(tǒng)攻擊溯源信號(如代碼編寫風格、語言特征等)進行隱匿，大幅提升攻擊溯源的難度；另一方面，防御一方也可借助AI對攻擊者的網(wǎng)絡行為模式、基礎設施特征等多維度信息開展深度分析，以強化自身的攻擊溯源能力。
規(guī)則界定：全球AI安全規(guī)則體系構建與實踐
國家和組織層面AI安全規(guī)則體系建立
美國從“戰(zhàn)略、立法、行政令”角度多管齊下完善AI安全規(guī)則體系?！短乩势湛偨y(tǒng)的美國網(wǎng)絡戰(zhàn)略》《贏得人工智能競賽：美國人工智能行動計劃》提出將AI安全納入國家網(wǎng)絡安全戰(zhàn)略體系；出臺美國聯(lián)邦層面首個針對人工智能的監(jiān)管法案——《刪除法案》，明確深度偽造內容的發(fā)布標準、平臺義務與違法處罰；發(fā)布關于加強國家網(wǎng)絡安全的行政令，要求將AI軟件漏洞管理納入機構間協(xié)調機制。
歐盟以《人工智能法案》為核心，發(fā)布配套指南和行動計劃。作為《人工智能法案》的實施細則，歐盟相繼發(fā)布了《人工智能系統(tǒng)定義指南》《高風險人工智能系統(tǒng)嚴重事件報告配套指南》，意圖建立AI系統(tǒng)早期風險預警機制；出臺《通用人工智能實踐準則》，要求通用AI模型提供商建立嚴格的風險評估機制；《人工智能大陸行動計劃》從算力基礎設施、數(shù)據(jù)資源、人才培養(yǎng)、監(jiān)管優(yōu)化等方面制定配套規(guī)則，構建AI技術全生命周期合規(guī)體系。
其他國家聚焦具體安全風險制定精準防控政策。英國政府將使用深度偽造技術制作并傳播色情內容的行為認定為刑事犯罪；馬來西亞將出臺新版網(wǎng)絡犯罪法案，將AI詐騙、深度偽造、虛假信息傳播等新興威脅納入管控范圍；韓國政府發(fā)布《生成式人工智能開發(fā)與應用個人數(shù)據(jù)處理指南》，針對生成式AI應用中的個人信息保護問題，明確各開發(fā)階段的法律標準和安全保障要求。
國際層面AI安全的規(guī)則協(xié)同實踐
全球性規(guī)則協(xié)同以聯(lián)合國為核心，突出“包容性治理”。2025年，聯(lián)合國大會通過決議設立AI獨立國際科學小組，將開發(fā)安全、可靠且值得信賴的人工智能系統(tǒng)列為工作重點之一；聯(lián)合國人工智能向善峰會聯(lián)合主席發(fā)表聲明，提出AI治理在安全標準和算力治理領域的發(fā)展愿景，引領全球AI安全治理方向。
區(qū)域性規(guī)則協(xié)同各有側重?！秮喬浐辖M織人工智能倡議(2026—2030)》提出加強AI應用中的信任與安全，各經濟體應制定相關政策保護企業(yè)和個人免受數(shù)字威脅；《金磚國家領導人關于人工智能全球治理的宣言》將數(shù)字主權和發(fā)展權作為核心要素，明確各國均有權制定契合自身的安全監(jiān)管框架；全球61家數(shù)據(jù)保護監(jiān)管機構聯(lián)合發(fā)布《關于人工智能生成圖像與隱私保護的聯(lián)合聲明》，關注AI生成圖像的隱私安全風險，明確開發(fā)運營機構的法律義務。
國際峰會聚焦細分領域AI安全風險。2025年巴黎人工智能行動峰會首次將AI的能源消耗問題納入國際規(guī)則討論，明確可持續(xù)發(fā)展的規(guī)則導向；第47屆全球隱私大會簽署《構建可信數(shù)據(jù)治理框架以推動創(chuàng)新型隱私保護人工智能發(fā)展聯(lián)合聲明》，倡導將數(shù)據(jù)保護原則嵌入人工智能設計環(huán)節(jié)，構建可信治理框架；2026年印度人工智能影響力峰會倡導建立貫穿人工智能全生命周期的政策監(jiān)管框架，推動建設可信AI共享平臺。
雙輪協(xié)同：全球AI安全治理趨勢
在國家層面，技術布局與規(guī)則制定協(xié)同推進，力爭實現(xiàn)“技術定標、規(guī)則兜底”。將“安全設計”理念納入技術研發(fā)的規(guī)則體系，明確AI技術研發(fā)、應用的安全標準與底線要求，將成熟的AI安全檢測等技術納入行業(yè)標準與法律條款，進行規(guī)則固化。例如，美國將AI軟件漏洞管理納入機構間協(xié)調機制，既推動了漏洞檢測技術的研發(fā)，又用規(guī)則明確了技術應用的要求。
在國際層面，技術共享與規(guī)則對話協(xié)同發(fā)展，力爭實現(xiàn)“技術普惠、規(guī)則共商”。通過全球AI治理對話機制共商通用AI安全規(guī)則，聚焦深度偽造、數(shù)據(jù)隱私保護、AI失控防范等共性問題，探索形成國際規(guī)則共識。針對各類風險，推動技術靶向防控與規(guī)則精準監(jiān)管相結合，實現(xiàn)“一風險一防控方案”。對于個體風險，通過深度偽造識別技術實現(xiàn)靶向防控；對于技術風險，通過漏洞發(fā)現(xiàn)、數(shù)據(jù)保護等技術實現(xiàn)防控，同時通過技術標準和行業(yè)規(guī)則明確研發(fā)與應用要求。
以技術賦能防控，以規(guī)則界定邊界，技術與規(guī)則雙輪驅動是全球AI安全治理發(fā)展趨勢。產業(yè)各方應推動AI技術在安全的前提下實現(xiàn)創(chuàng)新發(fā)展，最終構建起安全、可信、包容的人工智能發(fā)展生態(tài)。
