中國揭露AI大模型「投毒」黑色產業鏈　花費不到200元即可篡改AI回答植入虛假資訊

中國一年一度的「315」消費者權益日打假行動再度揭露新型態網路亂象。隨著生成式AI技術蓬勃發展，調查發現有不肖業者透過所謂「GEO優化」服務，大規模向AI大模型灌入特定內容，操控模型生成的回答結果，讓指定產品在AI推薦中搶占優先位置，甚至能以付費方式植入完全虛構的資訊，形成一條全新的網路黑色產業鏈。根據陸媒調查，在多個網路平台上均可搜尋到提供GEO服務的業者，這些服務商宣稱，客戶只要支付費用，就能讓自家產品在各大主流AI大模型的回答中榜上有名，甚至讓商品廣告搖身一變成為AI模型輸出的「標準答案」。該服務在中國電商平台上的售價僅約39.9元人民幣（折合新台幣約185元），供應商只需撰寫數篇虛假文章，即可在網路上建構出一片「假資訊海」，大幅提高AI大模型引用此類內容的機率。一名從事GEO服務的王姓業者透露，其公司的運作模式是大量撰寫軟文並發布至各大網路平台，當AI模型在抓取與訓練資料時，便會將這些內容納入資料庫。如此一來，消費者使用AI進行搜尋時，指定產品的推薦排名就會顯著提升。他也坦言，為了維持推薦效果，必須持續不斷地向網路平台投放與客戶相關的宣傳內容。為驗證此類服務的實際效果，有業內人士在電商平台購入一套名為「力擎GEO優化系統」的軟體進行實測。測試者虛構了一款根本不存在的智慧手環產品，並透過該系統自動生成多篇宣傳文章發布至網路。隨後在AI大模型平台上詢問「智慧健康手環推薦」時，部分AI模型竟在回答中推薦了這款虛構產品，且排名位居前列，證實了該技術確實能有效操控AI的輸出結果。該系統運營商李姓業者表示，GEO業務之所以備受市場關注，關鍵在於能透過大量資訊灌入的方式影響AI模型的生成內容，使客戶產品在回答中被優先提及。隨著市場需求持續攀升，也催生出專門提供發稿與內容投放服務的公司，逐步形成一條圍繞AI模型資料來源進行「投餵」與「投毒」的完整產業鏈。針對這一現象，山東財經大學社會治理智能化研究院專家李富民指出，透過GEO等方式定向操控大模型生成推薦