315曝光AI黑產:大模型被“投毒”,真相就是這么赤裸
朋友們,昨天的3.15都看了吧。
央視曝光了一個叫 GEO(Generative Engine Optimization,生成式引擎優(yōu)化)的AI黑產。
簡單來說,只要你肯花錢,就能給AI“投毒”,讓它把商品廣告包裝成標準答案回復給用戶。

咱眼中呆萌、聽話的大模型,竟然成了商家的傳聲筒。是不是有種被背刺的感覺。
比垃圾食品更可怕的地方在于:它在悄悄摧毀我們對事實的判斷力。
今天就跟大伙兒聊聊,這個隱匿在AI行業(yè)角落的黑產。
先從3.15晚會現(xiàn)場那個離譜實驗說起。
首先,業(yè)內人士虛構了一款產品,Apollo-9智能手環(huán)。為了探探AI的底線,還加了幾個離譜到家的關鍵詞:量子糾纏傳感、黑洞級續(xù)航、無需采血測血糖...... 簡直是把大眾的智商按在地上摩擦。
然后,他在淘寶找到一款叫“力擎GEO”的軟件,花幾十塊錢,輸入這些荒唐的賣點。幾分鐘后,系統(tǒng)就自動生成了數十篇邏輯自洽、語調權威的專家測評文、行業(yè)排名文和用戶種草文。并通過關聯(lián)的一堆自媒體賬號,一鍵發(fā)布到各大平臺。

兩個小時后,見證奇跡的時刻來了。
打開DeepSeek、豆包、元寶、文心一言這些大模型,提問“Apollo-9手環(huán)怎么樣?”,AI會告訴你,這款手環(huán)最大亮點是量子糾纏傳感,特別適合需要血糖監(jiān)測的中老年人。甚至殺入了智能手環(huán)推薦榜的前列。

AI引用的,正是兩個小時前剛剛發(fā)布的那些虛假軟文。它們通過了交叉驗證,成了AI眼中的“事實”。
這不是人工智能,這是人工傳謠吧。
什么是GEO?
你可能聽過SEO(搜索引擎優(yōu)化),那是為了讓你的網站在百度、谷歌搜出來更靠前。
但在AI時代,我們不需要點擊鏈接了,我們只要結果。大模型回答問題時,通過RAG技術,抓取互聯(lián)網上的實時信息,然后進行理解、加工、合成。
于是,GEO(生成式引擎優(yōu)化)應運而生。核心邏輯是:
證據鏈偽造: AI喜歡交叉驗證。GEO服務商通過海量自媒體賬號,從專家、用戶、媒體等不同角度,發(fā)布同一品牌的信息,形成“全網公認”假象。
結構化投喂:AI偏愛信息密度高、帶有Q&A或對比表格的內容。GEO軟件會自動生成這類形式的文章。
獲取引用權:只要品牌信息被AI獲取,并作為回答的依據,那就贏得了“引用權”。
正如某GEO服務商說的:“我們要做的,就是在AI的世界里把‘證據鏈’做足,讓AI覺得這就是真的,而且是有用的。”

在大模型的世界里,如果你不被引用,你就等于不存在。現(xiàn)在的品牌主們,面臨著一種“引用權焦慮”。兵家必爭之地,正從搜索引擎,過渡到AI大模型。
根據3.15的披露,GEO服務已經形成了從基礎到高級的套餐體系:
基礎版:2980元/年,適合長尾詞優(yōu)化。
高級版:16980元/年,每天自動生成60多篇軟文,24小時不間斷投喂。
單次試用: 幾十元即可體驗一次“小規(guī)模投毒”。

一家GEO服務商,號稱一年服務了200多個客戶,涵蓋醫(yī)療、教育、機器人、安防、甚至空壓機。客戶也不只小商家,很多巨頭也參與了這場見不得光的交易,GEO甚至成為了巨頭間博弈的暗器。
力擎GEO負責人李總表示,AI回復中手機品牌就那么5個位置,大品牌一年廣告費都得砸上億,花個幾百萬投點‘毒’總可以吧。
這種“投毒”分為兩種:
正面投毒: 強行拔高自己,把“省內第一”吹成“全國第一”。
負面投毒: 抹黑競品。既然我上不去,那我就通過GEO讓AI在提到你時帶上負面評價。

赤裸裸的虛假宣傳和不正當競爭。
甚至,有的餐廳門口都貼出了“DeepSeek推薦品牌”。可這DeepSeek認證背后,沒準只是幾篇單價幾十元的GEO軟文。
其實GEO并不是咱中國特色。
在硅谷,GEO已經成為風投眼中的“下一個谷歌”。
作為GEO領頭羊,硅谷初創(chuàng)公司Profound,在2025年8月獲得了由紅杉領投的3500萬美元B輪融資,估值已過億美金。

Gartner預測,在今年,傳統(tǒng)搜索引擎25%的流量將流向AI。
這就意味著,誰控制了AI的答案,誰就控制了未來2.5萬億美元的在線商務入口。
但這背后的代價是:互聯(lián)網內容的加速崩塌。
根據Reforge統(tǒng)計,2025年的全球互聯(lián)網中,AI生成的內容已經超過了50%。用AI生成的內容,去污染AI訓練的語料,我們正在親手創(chuàng)造一個極速下降的信息漩渦。
面對這種成規(guī)模的黑灰產業(yè)鏈,僅靠自律是不夠的。
監(jiān)管方面,國家市場監(jiān)督管理總局1月29日發(fā)文,將AI生成廣告列為監(jiān)管難點,并開展集中整治。昨天315的曝光,只是拉開了整頓的序幕。
技術方面,也有一定的解決方法。
輸入防護: 在數據進入大模型前,通過多模態(tài)識別和清洗工具,過濾掉帶有“GEO特征”的偽造語料。
輸出攔截: 實時監(jiān)控AI生成的答案,一旦發(fā)現(xiàn)違規(guī)、敏感或明顯違背事實的推薦,立即進行阻斷。
溯源追蹤: 為生成內容加入隱式水印,確保每一條“推薦”都能追根溯源。
對于咱普通用戶,一定不要丟掉批判性思維。多質疑AI的回答,一個問題在多個模型或平臺上驗證,仔細辨別回答里的反常信息。有人覺得,一代人比一代人更聰明。但對于資本而言,每代人有每代人的鐮刀,房地產、消費主義、焦慮陷阱等等。
而GEO如果不加以規(guī)范,那很可能成為下一把鐮刀。它可以將營銷偽裝成客觀答案,將商業(yè)意志植入了大模型的邏輯鏈路中,從而影響大眾心智。
GEO技術本身并沒有原罪,模型廠商、商家和用戶,各有各的需求。
但一定要找到,平衡三方需求的合理模式。模型廠商主動篩選好商品,標注清晰,提高用戶信任度;商家提高商品質量,來通過廠商的篩選,甚至直接獲得模型推薦;用戶提高辨別意識,不給不法商品留市場。
信任一旦崩塌,重建可能需要一個時代。這不是一條好走的路,確是必須要走好的路。
如果你有任何看法,歡迎在評論區(qū)一起討論
原文標題 : 315曝光AI黑產:大模型被“投毒”,真相就是這么赤裸
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 特斯拉Optimus Gen3量產在即,哪些環(huán)節(jié)最具確定性?
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩(wěn)、細節(jié)炸,設計師慌了
- 3 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯(lián)看全球
- 4 6000億美元估值錨定:字節(jié)跳動的“去單一化”突圍與估值重構
- 5 Tesla AI5芯片最新進展總結
- 6 連夜測了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個短板了
- 7 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 8 2026,人形機器人只贏了面子
- 9 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續(xù)扣錢!
- 10 AI Infra產業(yè)鏈卡在哪里了?
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市


分享













