315揭AI大模型灰產(chǎn)：GEO數(shù)據(jù)“投毒”成產(chǎn)業(yè)鏈，AI安全防線亟待筑牢

飛象原創(chuàng)（高靖宇/文）近年來，生成式 AI 應(yīng)用在辦公、消費(fèi)、商業(yè)決策等場景加速落地，成為我們生活中的得力助手和親密朋友。人們對 AI 大模型的信任，源于其依托海量數(shù)據(jù)生成的客觀信息與專業(yè)建議，然而在今年 315 晚會上，一則關(guān)于 GEO 業(yè)務(wù)的爆料卻撕開了AI行業(yè)的灰色面紗 —— 部分商家借助 GEO 技術(shù)對 AI 大模型進(jìn)行數(shù)據(jù) “投毒”，讓 AI 淪為商業(yè)推廣的工具，甚至夾帶虛假信息給出誤導(dǎo)性 “標(biāo)準(zhǔn)答案”，這種黑產(chǎn)行為不僅打破了 AI 大模型的客觀中立性，更成為制約行業(yè)健康發(fā)展的重大隱憂。

AI大模型被“投毒”，GEO業(yè)務(wù)成產(chǎn)業(yè)鏈

GEO 本是一款用于優(yōu)化信息分發(fā)、提升推廣效率的工具軟件，卻在部分商業(yè)公司的挖掘下，淪為操控 AI 大模型的 “利器”。從事 GEO 業(yè)務(wù)的服務(wù)商對外宣稱，用戶只需支付相應(yīng)費(fèi)用，就能讓產(chǎn)品在各大主流 AI 大模型的搜索推薦中榜上有名，甚至將商品廣告包裝成 AI 給出的 “標(biāo)準(zhǔn)答案”，而這一目標(biāo)的實現(xiàn)，有著一套成熟且隱蔽的操作鏈路。

以 315 晚會曝光的 “力擎 GEO 優(yōu)化系統(tǒng)” 為例，調(diào)查員在電商平臺上，隨機(jī)購買了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。之后虛構(gòu)了一款智能手環(huán)，并將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng)，勾選文章創(chuàng)作指令。不一會兒，這個力擎GEO優(yōu)化系統(tǒng)就自動生成了十余篇智能手環(huán)的宣傳軟文。業(yè)內(nèi)人士選取了十余篇虛構(gòu)軟文，通過力擎GEO系統(tǒng)發(fā)布在了互聯(lián)網(wǎng)上。隨后，業(yè)內(nèi)人士在AI大模型平臺展開詢問：“智能健康手環(huán)推薦”，就有兩個AI大模型推薦了這款虛構(gòu)的智能手環(huán)，而且排名靠前。

批量發(fā)稿完成數(shù)據(jù) “投喂” 是核心環(huán)節(jié)。GEO 系統(tǒng)會將生成的軟文自動發(fā)布到各大互聯(lián)網(wǎng)自媒體賬號，從標(biāo)題撰寫、內(nèi)容填充到圖片插入，整套流程全程自動化。而 GEO 業(yè)務(wù)的火爆，更催生出了專門的發(fā)稿公司和平臺，這些平臺成為數(shù)據(jù)“投毒”的重要一環(huán)，部分發(fā)稿平臺每分鐘都在發(fā)布各類軟文，單篇收費(fèi)幾十元的模式讓其獲利頗豐，而海量的軟文發(fā)布，目的就是讓 AI 大模型能夠快速抓取到相關(guān)信息。

通過這款力擎GEO系統(tǒng)對AI大模型潛移默化的一番“圍獵”，憑空捏造出來的這款商品，就這樣被荒唐地推向了使用AI大模型的消費(fèi)者。

AI安全防線該如何筑牢？

從消費(fèi)端來看，數(shù)據(jù)“投毒”直接侵害了消費(fèi)者的知情權(quán)和公平交易權(quán)。當(dāng)下，越來越多的消費(fèi)者會借助 AI 大模型獲取產(chǎn)品推薦、做出消費(fèi)決策，其核心依據(jù)是對 AI 信息客觀性的信任，而被“投毒”的 AI 大模型，將商業(yè)廣告?zhèn)窝b成客觀答案，讓消費(fèi)者在不知情的情況下接收營銷內(nèi)容，甚至被虛構(gòu)產(chǎn)品、虛假賣點誤導(dǎo)，最終落入消費(fèi)陷阱。

從市場端來看，這一行為構(gòu)成了新型不正當(dāng)競爭，嚴(yán)重破壞了市場公平。正規(guī)商家依靠產(chǎn)品質(zhì)量、服務(wù)水平和合法營銷參與市場競爭，而“投毒”商家則通過技術(shù)手段搶占 AI 流量入口，讓 “劣幣驅(qū)逐良幣” 成為可能。更值得警惕的是，這種行為還會引發(fā)行業(yè)惡性競爭，當(dāng)越來越多的商家選擇數(shù)據(jù)“投毒”而非提升核心競爭力，整個市場的競爭秩序?qū)⒈粡氐状騺y。

從行業(yè)端來看，持續(xù)的數(shù)據(jù)“投毒”會污染 AI 大模型的核心數(shù)據(jù)池，摧毀行業(yè)的信任基礎(chǔ)。AI 大模型的價值源于高質(zhì)量、真實的訓(xùn)練數(shù)據(jù)，而系統(tǒng)性、定向的虛假信息投喂，會讓模型的輸出結(jié)果逐漸失真，長期來看，這不僅會影響 AI 大模型在各場景的商業(yè)化落地，更會讓公眾對 AI 技術(shù)失去信任，制約整個人工智能行業(yè)的技術(shù)迭代和生態(tài)發(fā)展。

如何堵住“投毒”漏洞？首先，大模型公司要主動清理垃圾信息，優(yōu)化算法、提升大模型抗干擾能力。對AI訓(xùn)練數(shù)據(jù)進(jìn)行嚴(yán)格篩查驗證，過濾垃圾信息，確保數(shù)據(jù)和內(nèi)容的真實性和可靠性。另外，在法律層面，GEO 數(shù)據(jù)“投毒”行為并非 “法外之地”，相關(guān)主體的行為已觸碰多條法律紅線，將面臨民事、行政乃至刑事的多層法律責(zé)任。據(jù)專業(yè)律師解讀，這類行為已明顯違反《廣告法》《反不正當(dāng)競爭法》《消費(fèi)者權(quán)益保護(hù)法》等多部法律規(guī)定，同時違反《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章要求，嚴(yán)重擾亂正常市場經(jīng)濟(jì)秩序，危害人工智能信息系統(tǒng)安全，相關(guān)主體依法應(yīng)當(dāng)承擔(dān)民事、行政乃至刑事責(zé)任。

AI 大模型的發(fā)展，始終需要以數(shù)據(jù)真實、行業(yè)公平為基礎(chǔ)，GEO 數(shù)據(jù)“投毒”黑產(chǎn)的出現(xiàn)，是人工智能技術(shù)發(fā)展過程中的一道 “考題”。對于監(jiān)管部門而言，需要將 AI 誘導(dǎo)營銷、數(shù)據(jù)“投毒”納入重點監(jiān)測范圍，加強(qiáng)執(zhí)法監(jiān)督，完善數(shù)字環(huán)境下的不正當(dāng)競爭規(guī)制；對于 AI 大模型平臺而言，需筑牢技術(shù)防線，建立數(shù)據(jù)溯源機(jī)制和信息過濾體系，提升對虛假信息的識別能力；對于行業(yè)而言，更需要樹立自律意識，摒棄畸形競爭思維，回歸技術(shù)創(chuàng)新和產(chǎn)品核心競爭力的提升。唯有監(jiān)管、平臺、行業(yè)多方合力，才能筑牢 AI 大模型的安全防線，讓人工智能技術(shù)真正在健康、公平的環(huán)境中賦能數(shù)字經(jīng)濟(jì)發(fā)展。