全國人大代表、浙江移動總經(jīng)理楊劍宇： 加強(qiáng)人工智能安全治理

隨著人工智能滲透至公共安全、經(jīng)濟(jì)秩序等核心領(lǐng)域，近年來智能安全相關(guān)事件數(shù)量不斷上升，人工智能安全治理的緊迫性日益提升。黨和國家明確提出，人工智能發(fā)展要從“追趕布局”轉(zhuǎn)向“安全可控與主動引領(lǐng)并重”。全國人大代表，中國移動浙江公司黨委書記、董事長、總經(jīng)理楊劍宇建議，加強(qiáng)人工智能安全治理，強(qiáng)化數(shù)據(jù)語料源頭治理、模型算法風(fēng)險管控、人工智能內(nèi)容管理與核驗，更好推動人工智能產(chǎn)業(yè)行穩(wěn)致遠(yuǎn)。

當(dāng)前，我國人工智能發(fā)展已進(jìn)入技術(shù)快速迭代、行業(yè)深度融合階段，2025年人工智能核心產(chǎn)業(yè)規(guī)模超1.2萬億元，增速達(dá)到33%，成為發(fā)展新質(zhì)生產(chǎn)力、構(gòu)筑國家競爭新優(yōu)勢的核心引擎。但近年來利用人工智能技術(shù)實施網(wǎng)絡(luò)攻擊、深度偽造、換臉詐騙等惡性事件頻發(fā)，企業(yè)“人工智能+”改造面臨數(shù)據(jù)泄露、合規(guī)風(fēng)險等安全隱憂。

楊劍宇表示，當(dāng)前我國人工智能安全治理已初步形成頂層規(guī)劃與原則框架，但在具體落地中仍然存在一些問題。

一是語料庫的合規(guī)性管理有待加強(qiáng)。國內(nèi)標(biāo)準(zhǔn)語料庫、行業(yè)數(shù)據(jù)集的建設(shè)仍在起步階段，部分語料庫數(shù)據(jù)來源混雜、內(nèi)容審核不到位，帶來人工智能技術(shù)和應(yīng)用的價值取向偏差；大量國內(nèi)語料庫一味照搬國外資料，對語料背后的西方文化輸出重視不夠；數(shù)據(jù)安全保護(hù)技術(shù)的普及應(yīng)用滯后，存在安全隱患。

二是防范“人工智能作惡”的系統(tǒng)性監(jiān)管不足。利用人工智能技術(shù)進(jìn)行深度偽造，進(jìn)而魚目混珠、擾亂視聽甚至違法犯罪的現(xiàn)象層出不窮，現(xiàn)行監(jiān)管機(jī)制在事前預(yù)防、事后監(jiān)管、責(zé)任追究等方面面臨新的挑戰(zhàn)。

三是平衡創(chuàng)新與安全面臨產(chǎn)業(yè)博弈。針對人機(jī)交互觸及的數(shù)據(jù)安全和隱私保護(hù)的“紅線”設(shè)置，以及技術(shù)路線背后的產(chǎn)業(yè)博弈，日益成為我國人工智能產(chǎn)業(yè)發(fā)展的焦點。

楊劍宇建議：

一是加強(qiáng)數(shù)據(jù)語料源頭治理。鼓勵建立訓(xùn)練數(shù)據(jù)來源記錄與披露制度，明確要求大模型研發(fā)廠商提供清晰的開源協(xié)議證明或商業(yè)授權(quán)文件，健全內(nèi)容安全過濾機(jī)制，推動構(gòu)建合規(guī)的數(shù)據(jù)授權(quán)使用渠道，為產(chǎn)業(yè)提供清晰的合規(guī)指引；落實個人敏感信息收集、處理的“目的明確、路徑可溯”要求，完善從“明確告知”到“操作可追溯”的監(jiān)管操作細(xì)則；強(qiáng)化跨部門聯(lián)合執(zhí)法司法，嚴(yán)厲打擊惡意爬取數(shù)據(jù)、批量生成侵權(quán)內(nèi)容等行為，切實保障數(shù)據(jù)合規(guī)流動與價值釋放。

二是強(qiáng)化模型算法風(fēng)險管控。完善算法與大模型備案機(jī)制，在現(xiàn)有《生成式人工智能服務(wù)管理暫行辦法》法規(guī)基礎(chǔ)上，對具有輿論屬性或涉及重大公共利益的人工智能算法與服務(wù)，加強(qiáng)算法類型、語料來源、安全評估等方面的審核審查；開展算法安全與倫理審計，定期評估大模型公平性、透明度及潛在風(fēng)險，并予以公示；根據(jù)各類主體對系統(tǒng)的實際控制力和可預(yù)見風(fēng)險的能力，明確人工智能系統(tǒng)開發(fā)者、部署者、使用者的責(zé)任邊界和法定義務(wù)清單。

三是加強(qiáng)人工智能內(nèi)容管理與核驗。推動建立具有公信力的人工智能生成內(nèi)容檢測和溯源平臺，打通不同平臺、不同模型的標(biāo)識數(shù)據(jù)接口，加強(qiáng)人工智能生成內(nèi)容的源頭審核、過程監(jiān)測和溯源管理，支持對疑似人工智能生成內(nèi)容的快速核驗與溯源追蹤。