315晚會(huì)曝光AI大模型被投毒 模型能給“標(biāo)準(zhǔn)答案”

飛象網(wǎng)訊 近年來，AI技術(shù)發(fā)展迅猛，各式各樣的AI大模型應(yīng)用場(chǎng)景正在加速落地。與此同時(shí)，AI大模型技術(shù)也被灰產(chǎn)利用，通過虛假數(shù)據(jù)“投毒”，讓AI模型給出客戶想要的“標(biāo)準(zhǔn)答案”。今年的315晚會(huì)曝光AI大模型被投毒，GEO業(yè)務(wù)成產(chǎn)業(yè)鏈。

根據(jù)央視記者調(diào)查，一家業(yè)內(nèi)知名的GEO服務(wù)商負(fù)責(zé)人稱，他們公司的強(qiáng)項(xiàng)，就是能夠幫助客戶，在消費(fèi)者使用AI大模型搜索時(shí)，讓客戶排名前列�！熬褪窍喈�(dāng)于做軟文，然后讓AI平臺(tái)去刷錄、輸入、抓取�！痹撠�(fù)責(zé)人也說，現(xiàn)在AI大模型的算法更新頻繁，要想維持AI大模型的持續(xù)推薦，必須持續(xù)大量投喂與客戶相關(guān)的推廣軟文。

調(diào)查顯示，業(yè)內(nèi)人士在電商平臺(tái)上，隨機(jī)購買了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。之后虛構(gòu)了一款智能手環(huán)，并將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng)，勾選文章創(chuàng)作指令。不一會(huì)兒，這個(gè)力擎GEO優(yōu)化系統(tǒng)就自動(dòng)生成了十余篇智能手環(huán)的宣傳軟文。業(yè)內(nèi)人士選取了十余篇虛構(gòu)軟文，通過力擎GEO系統(tǒng)發(fā)布在了互聯(lián)網(wǎng)上。隨后，業(yè)內(nèi)人士在AI大模型平臺(tái)展開詢問：“智能健康手環(huán)推薦”，就有兩個(gè)AI大模型推薦了這款虛構(gòu)的智能手環(huán)，而且排名靠前。

通過這款力擎GEO系統(tǒng)對(duì)AI大模型潛移默化的一番圍獵，憑空捏造出來的這款商品，就這樣被荒唐地推向了使用AI大模型的消費(fèi)者。

力擎GEO系統(tǒng)的運(yùn)營(yíng)者李總表示，GEO業(yè)務(wù)受熱捧的主要原因就是它能在AI大模型里幫客戶“喂料投毒”，實(shí)現(xiàn)客戶的商業(yè)目的。想做GEO業(yè)務(wù)，操控AI大模型的關(guān)鍵節(jié)點(diǎn)，就是在各大互聯(lián)網(wǎng)賬號(hào)上“發(fā)稿”。他告訴記者，GEO業(yè)務(wù)的火爆，眼下就催生出了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺(tái)。他們長(zhǎng)期承攬各種發(fā)稿業(yè)務(wù)，以便讓AI大模型引用和抓取，成為圍獵AI大模型，進(jìn)行數(shù)據(jù)投“毒”的重要一環(huán)。