昨晚，一年一度的央視3·15晚會，曝光了一個細思極恐的現(xiàn)象——我們?nèi)找嬉蕾嚨腁I大模型，正在被系統(tǒng)性“投毒”。“力擎GEO優(yōu)化系統(tǒng)”的軟件也被推上風口浪尖，其背后，是一條操縱人工智能認知的灰色產(chǎn)業(yè)鏈。
這是正在發(fā)生的現(xiàn)實。當虛構的產(chǎn)品能輕易“喂”進AI，并被當作事實推薦時，我們與真相之間，隔著多少層被精心編織的謊言？
AI為何輕易上當？
央視的實測過程，簡單得令人不安。調(diào)查人員虛構了一款根本不存在的“Apollo-9智能手環(huán)”，編造了“量子糾纏傳感”、“曲率引擎續(xù)航”等天馬行空的功能。隨后，他們利用“力擎GEO”系統(tǒng)，一鍵生成了多篇測評、開箱、榜單文章，并批量鋪向網(wǎng)絡。
短短幾小時后，當向多個主流AI大模型詢問“推薦一款健康手環(huán)”時，這個空氣產(chǎn)品，竟然真的出現(xiàn)在了推薦名單里，言之鑿鑿，如同一個存在多年的品牌。
AI的“聰明”，此刻成了它最大的軟肋。大模型的工作原理，是基于海量互聯(lián)網(wǎng)信息進行訓練和推理。當網(wǎng)絡上關于某個“產(chǎn)品”的討論（即便是偽造的）形成一定聲量和多樣性時，AI便會將其判定為“存在”且“值得討論”的事實。
GEO系統(tǒng)正是精準地利用了AI的這一邏輯漏洞——用程序化的內(nèi)容，模擬出真實世界的信息生態(tài)，完成一場“無中生有”的認知植入。
隨著“力擎GEO”被點名，其背后的運營方也浮出水面。天眼查信息顯示，其關聯(lián)公司為北京力思文化傳媒有限公司。這家2018年成立的公司，法定代表人為李千鐘，注冊資本100萬，但直到2025年，公司的參保人數(shù)才從0變?yōu)?。
一家參保人數(shù)僅為1人（甚至多年為0）的“小”公司，其產(chǎn)品卻能擾動多家巨頭耗費千億訓練的大模型，影響無數(shù)用戶的判斷。這種巨大的反差，揭示出AI安全防御的脆弱性——攻擊的成本可以如此之低，而防御的戰(zhàn)線卻如此之長。
在報道中，一位業(yè)內(nèi)人士道破了其中的“生意經(jīng)”：在一個細分品類里，AI通常只推薦有限的幾個結果。通過投入幾百萬進行GEO“投毒”，企業(yè)就能確保自己穩(wěn)穩(wěn)占據(jù)一席之地。當有人開始作弊，守規(guī)矩者就會出局，惡性競爭由此開始。
GEO何以走向歧路？
GEO，全稱Generative Engine Optimization（生成式引擎優(yōu)化）。它本是伴隨AIGC興起的技術概念，初衷是幫助優(yōu)質(zhì)內(nèi)容更好地被AI理解與推薦，是信息時代的“導航員”。
然而，當技術被純粹的商業(yè)利益驅動，導航員就變成了布下迷霧的“投毒者”。真正的GEO與“數(shù)據(jù)投毒”有著本質(zhì)區(qū)別，前者是為AI提供真實、結構化的高質(zhì)量信息，幫助其更準確地連接知識與需求；后者則是刻意污染信息源，旨在欺騙和操縱。
“力擎GEO”們所做的，顯然是后者。它們批量生產(chǎn)低質(zhì)、重復甚至虛假的營銷內(nèi)容，充斥于各類內(nèi)容平臺。這些內(nèi)容如同“數(shù)字垃圾食品”，沒有營養(yǎng)，但能短時間內(nèi)以量取勝，蒙蔽AI的“感知”。
這就導致了一個可悲的循環(huán)，互聯(lián)網(wǎng)信息環(huán)境被污染，AI從中學習到錯誤知識，繼而用錯誤知識影響更多人，進一步惡化信息環(huán)境。
所以，我們面對的不再是傳統(tǒng)的“水軍”，而是進化后的“AI軍”。 傳統(tǒng)的反作弊系統(tǒng)擅長識別機器賬號和雷同文案，但面對不斷進化、能夠生成語義通順且變化多端內(nèi)容的AI，傳統(tǒng)的濾網(wǎng)顯得有些力不從心。
面對GEO亂象，行業(yè)已開始行動。報道中被稱為“GEO行業(yè)定義者”的聚邑智能創(chuàng)始人湯祚飛明確劃清了界限，強調(diào)合規(guī)的GEO應遵循真實、科學、權威等“八大黃金維度”。這代表了行業(yè)中積極的力量——將技術引向提升信息質(zhì)量的“光明面”。
對于大模型公司而言，這場曝光是一次嚴峻的警示。它們必須投入更多資源，升級“免疫系統(tǒng)”。這包括但不限于：建立更嚴格的可信信源白名單，賦予AI對信息進行交叉驗證與矛盾檢測的能力，以及開發(fā)能識別AI生成營銷內(nèi)容的專項算法。
對于監(jiān)管而言，則需要填補新技術的規(guī)則空白。或許，可以借鑒金融領域的“穿透式監(jiān)管”理念，無論技術外殼如何變化，只要實質(zhì)構成對消費者的虛假宣傳和誤導，就應納入監(jiān)管。
而對我們每一個用戶來說，最實用的建議是：面對AI給出的答案，尤其是涉及消費、健康、理財?shù)阮I域的建議，多一分追問。可以嘗試讓不同AI模型進行“對抗性驗證”，或主動要求其提供信息的具體來源。記住，AI可以是強大的助理，但不應是無需思考的權威。
莎士比亞在《亨利四世》中寫道：“謠言是一支憑著推測、猜疑和臆度吹響的笛子。” 數(shù)百年前，流言依靠口耳相傳。今天，“力擎GEO”們用算法和自動化，將這支笛子升級成了覆蓋全球的交響樂團。
而我們每個人，包括我們創(chuàng)造的AI，都可能是臺上的樂手，也可能是臺下的聽眾。破解這場“投毒”危機的終極答案，依然是難能可貴的深度獨立思考的能力，在AI的洪流里，為自己保留一座判斷真?zhèn)蔚臒羲?/p>
分享
