為什麼社群媒體 + LLM 會摧毀民主

李柏鋒這篇說得很好，而且隱含了一個更嚴重的威脅: LLM 會大幅動搖民主。

民主有一些預設，包括言論自由，公共討論，其中一些預設，已經在社群媒體 + LLM 的出現後嚴重偏離：

1. 存在一個人人可存取的資訊環境，能夠提供盡可能全面真實的資訊

   • 如今的資訊環境，由大量自動化再製的雜訊組成，只有該領域專家能辨別價值和準確度

2. 社會由多元的群體組成。人們能容忍，甚至尊重不同的意見和生活方式

   • 如今的社群媒體是同溫層泡泡，人們幾乎不跟其他群體真正溝通

3. 公民具備獨立思考、評估資訊、權衡利弊的能力

   • 如今人們叫 LLM 整理資訊，當成強化自己既有信念，彼此攻擊的藉口

也許你認為網路時代就是這樣，現在只是更糟，可惜並非如此。

網路時代的小白，以至於之後的內容農場，主要是搬運既有的內容複製貼上。人們還是可以辨別內容是否原生，以及原始來源可能為何。但社群媒體 + LLM 的時代，純人工的內容，在生產跟擴散上都弱到幾乎沒有意義，至少我很難想像有多少人會因為「整篇內容純手工」而列為圭臬。

那麼論文和專書呢？也快要失去作用了。即使 peer review 能夠保證這些內容本身可信，轉述過的內容也並非如此。

而我們都知道，除了同領域專家外，沒幾個人會真的想讀論文和專書。
大部分的人要的不是研究的方法與洞見，而是「有 n 篇論文專書這麼說」的感覺。
這種感覺不該，也無法叫研究者去釐清。

這些問題甚至還不是最嚴重的。最嚴重的是各種模仿成熟格式的「報告」，「分析」，會讓人嚴重高估自己的知識和理解程度。而 LLM 和同溫層的存在，更會快速強化這種自信偏誤。

一言以蔽之，接下來沒有人會想聽別人講話，每個人都以為自己是對的。

在這種環境下，定期選舉，政黨政治等民主體制的核心規則，會從社會韌性與權力制衡的機制，變成黨同伐異撕裂社會的武器。
反正大家都有 LLM ，每個人都可以為自己的意見掰出上萬條歪理，最後就是錢多官大的贏。

當然，這並不表示威權會快速獲勝，但威權政體肯定會利用這些裂縫，來傀儡化民主國家，以及整個國際社會。

說真的，我不知道怎麼辦。
政黨，誘因設計，公民科技，甚至宗教，似乎都沒有辦法削弱這項趨勢。我也找不到任何理由相信公共審議、互通性之類的策略具備任何希望。