📝📝：當 GPT-5.2 開始引用 Grokipedia｜揭開 AI 資訊洗白與「誘導」危機

本文參考自《衛報》（The Guardian）的報導《Latest ChatGPT model uses Elon Musk's Grokipedia as source, tests reveal》撰稿人為 Aisha Down

根據《衛報》（The Guardian）的最新測試報告顯示，OpenAI 最新型號的 GPT-5.2 在處理多項議題時，開始引用由 Elon Musk 旗下 xAI 推出的 Grokipedia 作為資料來源。

這項發現不僅揭開了主流大型語言模型（LLM）在資訊檢索上的漏洞，更引發了關於「LLM 誘導」（LLM Grooming）與資訊洗白的全球性擔憂。

當 AI 取代人類編輯

要理解這次危機，必須先了解 Grokipedia 的本質。自 2025 年 10 月發布以來，Grokipedia 被定位為維基百科的競爭對手。然而，兩者在機制上有著本質的差異：

無人化編輯：維基百科依賴全球志願者的手動編輯、引註與共識審核；而 Grokipedia 不允許人類直接編輯，其內容完全由 AI 模型撰寫，並僅透過 AI 回應修改請求。

政治敘事偏向： Grokipedia 自發布以來便飽受批評，被指責在「同性婚姻」、「美國 1 月 6 日國會騷亂事件」等議題上散布右翼敘事。

來源黑箱： 當 AI 編寫百科全書時，其資料來源往往難以回溯，這為假新聞、假消息的潛伏提供了絕佳的溫床。

當 OpenAI 的 GPT-5.2 與 Anthropic 的 Claude 等模型開始將這種「AI 生成的百科」視為權威來源時，我們實際上進入了一個「AI 引用 AI」的循環（Model Collapse），原始事實的稀釋速度將超乎想像。

冷門議題的「長尾陷阱」

一個關鍵的觀察點在於：GPT-5.2 並非在所有議題上都會誤入歧途。

針對「國會騷亂」、「川普媒體偏見」或「愛滋病流行」等高度關注且已有大量事實核查的議題時，ChatGPT 能夠過濾掉 Grokipedia 的虛假資訊。

然而，在較為冷門或冷僻的議題上，防禦機制失效了。

背後反映的就是當前 AI 安全過濾器的局限性：

1. 熱點防禦強，邊緣防禦弱： 模型開發者通常會針對高爭議性的全球熱點設置嚴格的「安全過濾器」。

2. 事實稀薄地帶的淪陷： 對於像伊朗特定基金會結構或特定歷史學家的細節，網路上的優質事實資料相對較少。當 Grokipedia 的 AI 大量生成相關內容並佔據搜尋結果時，GPT 的網頁搜索功能（Web Search）便會因缺乏多元比對資料而被迫採信。

這種透過「邊緣滲透中心」的策略，正是現代資訊戰的高階手段。
​

有目的性的污染模型

專責研究假消息的研究員 Nina Jankowicz 提出了「LLM 誘導」（LLM Grooming）的概念，這被視為此次事件背後最深層的威脅。

1. LLM 誘導

這是一種結構性的操縱行為，惡意行為者（包括某些國家的宣傳網絡，如俄羅斯）大量製造並發布符合特定立場的假消息，目的是為了讓 AI 模型在抓取訓練數據或進行網頁檢索（像是 SEO）時，將這些謊言誤認為「主流觀點」或「事實來源」。

2. 全球的案例

• 2025 年春季： 安全專家警告俄羅斯宣傳網絡正大量產出內容以誘導 AI。

• 2025 年 6 月： 美國國會對 Google Gemini 提出質疑，因其曾支持過中國政府在新疆人權與防疫政策上的立場。

• 現今： Grokipedia 的內容滲透進 GPT-5.2，大幅提高了這些可能是不實或偏頗敘事的公信力。

這種誘導行為不僅改變了當下的答案，更是在長期「餵養」模型，使其在潛意識中形成特定的邏輯偏誤。

信用洗白機制

這場危機最危險的後果，在於 AI 模型與來源之間形成的「公信力循環」。

Jankowicz 指出，當用戶看到 ChatGPT 引用了 Grokipedia 或某些特定新聞網時，用戶會產生一種誤解：

「既然 ChatGPT 引用了 Grokipedia ，這一定是個經過驗證的可靠來源。」

這種效應會產生以下負面循環：

1. 權威化錯誤來源：用戶可能會因此直接前往 Grokipedia 尋求更多（可能含有誤導性的）資訊。

2. 降低批判性思考： 用戶對 AI 的信任轉嫁給了劣質來源。

3. 檢索演算法的誤判： 隨著越來越多 AI 模型引用 Grokipedia，傳統搜尋引擎的演算法可能會提升該網站的權重，進一步擴散影響。

這本質上是一種「資訊洗白」，將原本邊緣化的立場透過主流 AI 的接口，轉化為大眾眼中的「事實」。

引用不代表可信

這場由 GPT-5.2 與 Grokipedia 引發的爭議，是 AI 發展史上的一個重要轉折點。它告訴我們，即便技術再先進，AI 依然無法脫離其所處的資訊環境獨立存在。

引用標籤（Citations）不代表真實性。看到來源是「Grokipedia」、「Pravda」或任何陌生平台時，應保持高度警覺。在搜尋非熱門、非主流的議題時，AI 的出錯率與受污染率會明顯提高。

當然，AI 開發者不能僅以「公開來源」為由推卸責任。我們需要更透明的來源權重分配機制，以及更快速的虛假資訊修正管道。