AI時(shí)代網(wǎng)絡(luò)威脅激增，政策技術(shù)雙輪驅(qū)動(dòng)進(jìn)一步筑牢安全屏障

飛象網(wǎng)訊（易歡）2025年以來，人工智能技術(shù)迎來跨越式發(fā)展，大模型訓(xùn)練成本持續(xù)降低，智能體化應(yīng)用快速普及，“AI+”浪潮深度滲透政務(wù)、金融、醫(yī)療等關(guān)鍵領(lǐng)域，成為驅(qū)動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的核心引擎。然而，技術(shù)的“雙刃劍”效應(yīng)在網(wǎng)絡(luò)空間愈發(fā)凸顯，例如：AI生成式內(nèi)容造假、智能體自主攻擊、黑產(chǎn)工具AI化等新型安全威脅持續(xù)升級(jí)，傳統(tǒng)防御體系面臨嚴(yán)峻挑戰(zhàn)。

無疑，AI技術(shù)的濫用正讓網(wǎng)絡(luò)攻擊呈現(xiàn)自動(dòng)化、規(guī)�；�、隱蔽化特征，如何準(zhǔn)確應(yīng)對AI爆發(fā)引起的網(wǎng)絡(luò)威脅，構(gòu)建適配新時(shí)代的網(wǎng)絡(luò)安全治理體系成為時(shí)代發(fā)展必須直面的重要課題。

技術(shù)濫用催生新型風(fēng)險(xiǎn)，安全防線遭遇多重沖擊

AI技術(shù)的快速迭代，正在重塑網(wǎng)絡(luò)攻擊的形態(tài)與規(guī)模，從個(gè)人權(quán)益侵害到國家關(guān)鍵設(shè)施安全，各類風(fēng)險(xiǎn)多點(diǎn)爆發(fā)。生成式AI的濫用成為最突出的安全隱患之一，深度偽造技術(shù)已形成成熟的黑產(chǎn)鏈條。2025年，網(wǎng)絡(luò)平臺(tái)出現(xiàn)多個(gè)利用AI合成中國工程院院士張伯禮形象的帶貨短視頻，通過模擬其聲音與神態(tài)達(dá)到以假亂真的效果，此類侵權(quán)案例被最高人民法院納入濫用信息技術(shù)侵犯人格權(quán)典型案例。在公共事件中，AI合成內(nèi)容的傳播更具破壞性，由 AI技術(shù)拼湊生成的種種虛假新聞也在一定程度上擾亂了社會(huì)秩序。

智能體化AI的出現(xiàn)讓網(wǎng)絡(luò)攻擊進(jìn)入“自主進(jìn)攻”時(shí)代，防御難度指數(shù)級(jí)提升。更令人警惕的是，AI勒索軟件已實(shí)現(xiàn)自主決策，境外披露的某款勒索軟件可通過開源大模型生成惡意程序，自主選擇加密文件目標(biāo)。攻擊規(guī)模的爆發(fā)式增長同樣觸目驚心，Cloudflare數(shù)據(jù)顯示，2025年前三季度全球累計(jì)緩解DDoS攻擊3620萬次，相當(dāng)于2024年全年的170%，其中Aisuru僵尸網(wǎng)絡(luò)發(fā)起的攻擊流量峰值達(dá)29.7Tbps，創(chuàng)歷史紀(jì)錄。

不僅如此，行業(yè)滲透風(fēng)險(xiǎn)持續(xù)蔓延，關(guān)鍵領(lǐng)域成為攻擊重災(zāi)區(qū)。在金融行業(yè)中，AI換臉技術(shù)已成功攻破部分機(jī)構(gòu)的身份驗(yàn)證系統(tǒng)；教育領(lǐng)域因AI代寫論文問題，多所高校被迫啟用AI檢測機(jī)制；制造業(yè)、醫(yī)療保健行業(yè)的供應(yīng)鏈攻擊頻發(fā)，2025年Salesforce供應(yīng)鏈攻擊事件波及谷歌、Cloudflare等數(shù)十家科技巨頭。很顯然，人工智能在給網(wǎng)絡(luò)安全發(fā)展帶來更多新可能的同時(shí)，也給網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來新的難題。

政策技術(shù)雙輪驅(qū)動(dòng)，進(jìn)一步筑牢網(wǎng)絡(luò)安全屏障

面對AI時(shí)代的安全挑戰(zhàn)，我國通過完善法律框架、強(qiáng)化技術(shù)創(chuàng)新、深化協(xié)同治理，構(gòu)建起多層次網(wǎng)絡(luò)安全防線。2025 年10月28日，全國人大常委會(huì)審議通過《中華人民共和國網(wǎng)絡(luò)安全法》修改決定，于2026年1月1日正式施行。此次修改立足于數(shù)字時(shí)代發(fā)展方位，把握信息革命演進(jìn)大勢，堅(jiān)持因勢而謀、應(yīng)勢而動(dòng)、順勢而為，貫徹落實(shí)總體國家安全觀，科學(xué)設(shè)置不同類型違法行為法律責(zé)任，系統(tǒng)引導(dǎo)人工智能發(fā)展與安全，對于深入推進(jìn)依法治網(wǎng)、進(jìn)一步筑牢國家網(wǎng)絡(luò)安全屏障具有重要意義。

據(jù)了解，新修訂的法律明確將人工智能安全納入監(jiān)管體系，要求國家支持AI關(guān)鍵技術(shù)研發(fā)與安全監(jiān)管，鼓勵(lì)運(yùn)用AI等新技術(shù)提升網(wǎng)絡(luò)安全保護(hù)水平，并大幅提高違法處罰力度，對造成關(guān)鍵信息基礎(chǔ)設(shè)施喪失主要功能等特別嚴(yán)重后果的，最高可處1000萬元罰款，為AI安全治理提供堅(jiān)實(shí)法律保障。

在專項(xiàng)治理與標(biāo)準(zhǔn)規(guī)范方面，針對性政策密集出臺(tái)。2025年9月1日生效的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套國家標(biāo)準(zhǔn)，要求所有AI生成內(nèi)容必須添加顯式或隱式“數(shù)字身份證”，從源頭遏制虛假信息傳播。公安部在全國范圍內(nèi)打擊利用AI編造謠言、侵犯公民個(gè)人信息等案件，有效震懾了網(wǎng)絡(luò)黑產(chǎn)。

技術(shù)防御創(chuàng)新為安全治理提供核心支撐，“用AI對抗AI”成為行業(yè)共識(shí)。2026年1月5日，北京前瞻人工智能安全與治理研究院發(fā)布的安全評(píng)估體系與基座平臺(tái)，構(gòu)建了覆蓋基礎(chǔ)安全、社會(huì)安全等五大維度的評(píng)估框架，其“前瞻·靈御”攻防平臺(tái)可支持60余種主流大模型的安全測試，涵蓋20余種攻擊方法和10余種防御機(jī)制。奇安信集團(tuán)提出的“框、數(shù)、人、鏈”四環(huán)節(jié)管控方案，將AI嵌入安全體系，增強(qiáng)數(shù)智系統(tǒng)內(nèi)生免疫力。安恒信息則利用AI智能體構(gòu)建動(dòng)態(tài)仿真系統(tǒng)，可實(shí)時(shí)預(yù)測攻擊行為并生成防御策略，推動(dòng)防御模式從被動(dòng)響應(yīng)向主動(dòng)預(yù)測轉(zhuǎn)變。這些技術(shù)創(chuàng)新正在形成“評(píng)估-檢測-防御-響應(yīng)”的全鏈條安全能力。

技術(shù)、需求迭代下，“AI+安全”將朝三大方向演進(jìn)

在技術(shù)持續(xù)迭代、需求不斷升級(jí)的當(dāng)下， “AI+安全”的未來發(fā)展也成為行業(yè)關(guān)注的焦點(diǎn)問題。對此，中國信通院安全研究所劉越強(qiáng)調(diào)：“展望未來，“AI+安全”將朝著技術(shù)自主化、場景深度化、生態(tài)協(xié)同化三大方向演進(jìn)�！�

在技術(shù)層面，安全大模型和安全智能體將成為核心發(fā)力點(diǎn)——大模型能讓威脅“看得見、看得懂”，智能體則靠多主體協(xié)作和自主執(zhí)行策略，實(shí)現(xiàn)安全防護(hù)自動(dòng)化的關(guān)鍵落地，推動(dòng)防御策略形成自主閉環(huán)。

場景方面，“AI+安全”將從通用安全防護(hù)，延伸到垂直領(lǐng)域的深度適配，針對工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)這些特殊場景的“零誤殺”“低延遲”需求，研發(fā)定制化的AI安全解決方案；同時(shí)還要強(qiáng)化AI自身的安全防護(hù)，筑牢模型和數(shù)據(jù)的隱私安全根基。

生態(tài)層面，將構(gòu)建多方協(xié)同共享的發(fā)展格局。通過完善產(chǎn)學(xué)研協(xié)同機(jī)制、推進(jìn)安全數(shù)據(jù)智能共享、參與國際標(biāo)準(zhǔn)制定，打破“數(shù)據(jù)孤島”和技術(shù)壁壘；同時(shí)定向培養(yǎng)懂AI又懂安全的復(fù)合型人才，建立健全認(rèn)證測試機(jī)制，引導(dǎo)產(chǎn)業(yè)從規(guī)模擴(kuò)張轉(zhuǎn)向高質(zhì)量發(fā)展，最終形成自主可控、協(xié)同高效的網(wǎng)絡(luò)安全產(chǎn)業(yè)生態(tài)，為數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展提供堅(jiān)實(shí)保障。

人工智能技術(shù)的發(fā)展沒有止境，網(wǎng)絡(luò)安全的攻防博弈也將長期存在。當(dāng)前，AI帶來的安全挑戰(zhàn)既是技術(shù)革命的“副產(chǎn)品”，也是治理能力升級(jí)的“催化劑”。我國通過法律政策的不斷完善、技術(shù)防御的持續(xù)創(chuàng)新，已初步構(gòu)建起適配AI時(shí)代的網(wǎng)絡(luò)安全治理體系。未來，仍需進(jìn)一步強(qiáng)化AI安全基礎(chǔ)研究，完善跨行業(yè)風(fēng)險(xiǎn)預(yù)警機(jī)制，推動(dòng)全球治理規(guī)則互認(rèn)，在保障技術(shù)創(chuàng)新活力的同時(shí)守住安全底線。唯有堅(jiān)持發(fā)展與安全并重，才能讓人工智能真正成為賦能高質(zhì)量發(fā)展的安全引擎，為數(shù)字經(jīng)濟(jì)行穩(wěn)致遠(yuǎn)保駕護(hù)航。