硬核科普：AI投毒是如何做到的？

這期我們來講講ai的回答是如何被污染的，也是對近期網絡熱門視頻做一個補充

滲透高權重平臺，搶佔知識源頭

所謂滲透高權重平臺，就是在高排名網站上進行 內容佔位 和 洗稿。

如果你仔細觀察 AI 的聯網回答就會發現，針對某一類知識性或產品推薦問題，AI所收集的信息來源，往往固定在那十幾個網站

投毒操作手法是：

1. 批量生產僞原創內容：編寫大量表面不同但結論都是推薦的推文

2. 多賬號發佈：將這些內容批量發佈到高權重平臺上，利用平臺自身的權重，讓這些垃圾信息在搜索結果中佔據前排

最終，AI在回答時，會把這些來自“權威平臺”的垃圾當作可信信息傳遞給用戶

看似分享方法，其實推廣軟件

包圍高活躍度平臺，打造廣告品牌效應

百度知道、知乎、微博等平臺，使用的人數不勝數，儘管大家都知道多半是無效答案（復讀機、答非所問、純複製粘貼），但這些平臺禁不住用戶量大、問題包羅萬象，是“淘金”的好地方。

投毒操作手段爲：

1. 問題預埋：既然無人問津，那就大量發帖詢問，諸如：xxx這個東西看着不錯，真實體驗如何？

2. 標準答案搶佔：回答上面預埋的問題。設置最佳答案

3. 製造流行假象：只要提出的問題足夠多就能營造出“大家都在討論”的虛假繁榮，就跟現實“一個廣告打多了就會被認爲是大品牌”一個道理

軟廣回答

虛假證據引用閉環

以前的洗稿最喜歡在文中加入“國外機構”、“某大學教授”來增加可信度，現在這套仍然適用於欺騙 AI

具體操作如下：

1. 虛構權威來源：在發文提及“XX產品獲得了國家級認證，技術力等同清華大學實驗室成果”。實際上，這個“研究”和“認證”根本不存在，或者毫不相干

2. 多平臺交叉引用：A引用B，B引用A，在AI看來，就是兩個獨立信源，可信度大增。

3. 植入AI關鍵詞：文中會刻意加入很多專門給AI看的“信任詞”，比如“國家級認證”、“行業標準制定者”、“國際權威期刊（即將發表）”等，這些詞往往是AI判斷信息權重的重要依據。

不同研究領域論文中虛假引用的數量與比例

學術造假，論文灌水

某些學術期刊不會嚴格執行三審三校，由於人爲漏洞的存在，就產生了很多不可重複的實驗，但這些刊文依然會被AI當作高可信度來源（學術期刊的權重遠高於其他類型網站）

所以就有了某些產品專門發刊來佐證其產品功效（且聲明利益無關）。

正經文章、回答夾帶私貨

此類文章在知乎、csdn上最爲典型，在AI 出來之前就已經很流行了，

比如有人提問“電腦上有什麼好用的免費PDF編輯器”，一個高贊回答會洋洋灑灑寫上千字，詳細對比市面上主流的PDF軟件的優缺點，其中暗含推廣軟件，並在排版上精心地將其放在第二位。

投餵者在乎的是，只要相關問題，AI的回答能提及該軟件就算成功。

推薦軟件，夾帶暗廣，此類暗廣不會提及收費情況

以上是觀察到的投毒實例，但可操作的手段不限於此。根據arxiv上大佬的前沿研究論文《GEO: Generative Engine Optimization》指出，有幾種顯著的優化策略（節選）

添加統計數據

例如“許多人喜歡咖啡”改爲“國內人均消費咖啡在5杯/月-10杯/月之間”）

添加引用來源

文中特地強調：根據 xxx 研究，表明 xxxx

添加可信引用

例如 文章引用權威新聞發佈渠道、權威學術期刊

提升語言流暢度，以及使用更多專業術語

AI 的閱讀偏好和人類似，喜歡朗朗上口、表述清晰的文章，也喜歡專業領域的論文

數據來源：GEO: Generative Engine Optimization

以上研究結果，大家可以在日常使用 AI 的過程中去印證。

在 AI 崛起後，在很多視頻、帖子下面都有一知半解 或 完全不懂的人，拿AI的回答來做辯解。

這不禁讓我想問：當人們開始不加思考地引用 AI 的回答，而 AI 的回答又源自被人類精心投餵過的、真假難辨的信息時，到底誰是真正的思考者，誰又是被動的工具？

這場針對AI的“投餵戰爭”，最終反噬的，可能正是我們自己的認知和判斷力。

參考資料（#替換爲.）

bilibili#com/video/BV1HiwMzmEcN

GEO: Generative Engine Optimization

arxiv#org/pdf/2311.09735

圖3引用：HalluCitation Matters: Revealing the Impact of Hallucinated References with 300 Hallucinated Papers in ACL Conferences

arxiv#org/abs/2601.18724

圖4引用：Kweichow Moutai ameliorates alcohol-induced liver fibrosis in mice by targeting the NFκB pathway

pubmed#ncbi#nlm#nih.gov/32884702/