📚📑📝超級智慧住在哪裡?從哪裡長出來?|《超智慧》穿越了宇宙,也應該回歸地表

鋼哥
·
·
IPFS
·
這些技術到底從何而來?誰在受益?以及,誰又為此付出了代價?
超智慧:AI 風險的最佳解答。來源:博客來

2026 年 9 月下旬,川普在聯合國大會發表演說時宣布,未來美國政府的所有文件將不再使用「人工智慧」(AI)一詞,全面改稱為「超級智慧」(Super Intelligence,簡稱 SI)。

川普強調這項技術「根本不是人工的」,因此使用「超級」是更為準確的描述。主張美國司法部僅在必要時介入約束風險,並計畫成立新的「AI Force」來統籌政策,以確保美國能維持對中國等國家的科技領先優勢。

從 AI 到 AGI(通用型人工智慧)再到現在的 SI,一路以來總會看到瑞典哲學家 Nick Bostrom 的身影。然而,這些耀眼的修辭百花齊放之下,這些技術到底從何而來?誰在受益?以及,誰又為此付出了代價?

芬蘭媒介理論學者 Jussi Parikka 的媒介地質學(A Geology of Media)恰好關注的正是撐起一切軟體技術背後的自然環境。媒介不再只是人的延伸,還是地球的延伸。


Bostrom 的推演場域

要理解「無地址」是什麼意思,得先看 Bostrom 的論證怎麼搭起來。

他的論證的第一塊基石是正交論題(orthogonality thesis):

more or less any level of intelligence could in principle be combined with more or less any final goal(幾乎任何程度的智慧,原則上都可以與幾乎任何最終目標結合;Bostrom 2014, p. 107)。

這個論題是純粹是模態(modal)性質的,談的是「原則上可能」的組合,不會指涉某個系統在某個特定條件下會怎麼運作。

與此相伴的則是 Bostrom 提出的思想實驗,迴紋針最大化機(paperclip maximizer)。推論之所以有效,正因為迴紋針最大化機不需要說明這台機器跑在哪裡、由誰訓練、為何有人給出這樣的目標,「可能」就足夠了。

瑞典哲學家 Nick Bostrom。來源:維基百科

第二塊基石是智慧爆發(intelligence explosion)。Bostrom 在《超智慧》(Superintelligence, 2014)中設想,一個系統的智慧水準可能在很短時間內,從相對有限的認知能力躍升到極端的超智慧。

在這個脈絡裡,Bostrom 把存在的末日災難(existential catastrophe)稱為智慧爆發的 a plausible default outcome(一個可信的預設結果;Bostrom 2014, p. 115)。

Bostrom 在引用這個措辭時是有保留的,書中對應的章節標題:

  • Existential catastrophe as the default outcome of an intelligence explosion? (中文譯本的標題為:我們創造的,終將毀滅我們?)

看似悲觀,結尾卻帶著問號。不過「預設」(default)這個詞一旦被選用,在讀者心中安裝的框架就已經確定:災難是不作為時自動發生的基準線,舉證責任落在主張不會發生的一方。

第三,是全書最著名的意象。Bostrom 寫道:

Before the prospect of an intelligence explosion, we humans are like small children playing with a bomb. Such is the mismatch between the power of our plaything and the immaturity of our conduct. Superintelligence is a challenge for which we are not ready now.

面對智慧爆發的前景,我們人類就像玩著炸彈的小孩。我們的玩具之威力,與我們行為之不成熟,竟是如此不相稱。超智慧是一項我們此刻尚未準備好迎接的挑戰。(Bostrom 2014, p. 259)

這幅圖像把幾個框架同時安裝進讀者腦中:

  • 幼稚

  • 迫近的爆炸

  • 照管失職

玩炸彈的小孩的修辭效力無須多說。我更關心的是這段話的「場景設定」:炸彈與孩子之間,沒有礦場,沒有晶片工廠,沒有電網。

▲ 面對智慧爆發的前景,我們人類就像玩著炸彈的小孩。Photo by Emanuel Kypreos on Unsplash

最後,是尺度的運用。〈天文級浪費〉這類論證,把賭注抬到以宇宙為單位。Bostrom 這種在宇宙尺度與日常尺度之間滑移,並藉此讓政治選擇看起來像是自然的修辭技術,我稱為尺度魔術(scale magic)。

意即,當一個數字大到超出直覺,讀者的反應就不再是計算,只會帶來眩暈;而一旦眩暈,眼前所有具體的代價,包括礦坑、電費、勞動、水資源,在天文數字對照下都變成小數點後面的零頭。

在此必須坦承,Bostrom 並非完全不談機構、競爭與經濟。

《超智慧》有專章討論多極情境(multipolar scenarios),涉及工資、失業與資本;也有專章處理策略全貌,包含硬體進展的影響。因此,本文的批評不是「他沒有談這些」,而是這些因素在他的論證裡,被當成可以調整的情境變數放進模型、不需要被逐段追查的歷史。

「硬體會進步」是一個假設;這些晶片由誰製造、耗用多少水電、仰賴哪些礦物與勞動,則是一條需要被核實的鏈。兩者的認識論地位完全不同。

這裡可以更精確地說明,什麼叫做「前提尚未被放到地面上檢驗」。Bostrom 的推演在邏輯上可以是有效的,但有效性只保證「若前提為真則結論為真」。

但這些前提中的關鍵環節,如智慧爆發的起飛速度、目標規格的困難程度,主要由論證與思想實驗設定,無法被獨立檢驗的經驗材料所支撐。

也就是說,Bostrom 的推測所依賴的前提,從未被要求通過任何物質層面的稽核。
​


Jussi Parikka:把媒介還給地球

媒介研究有一個經典命題,來自加拿大的媒介理論學者 Marshall McLuhan:

媒介是人類感官的延伸

在這一幅圖像裡,故事的主角永遠是人。Parikka 在《媒介地質學》(A Geology of Media, 2015)裡提議反過來想:

…we try to think of media not from Marshall McLuhan’s point of view — in which media are extensions of human senses — but rather as an extension of Earth… 

……不要從 Marshall McLuhan 的角度思考媒介,亦即媒介是人類感官的延伸,而是把媒介視為地球的延伸……

這個轉向實際上改變了研究的對象清單。

一支手機,是鋰(lithium)、鈷與稀土元素(rare earth elements)從地底被挖出、提煉、運輸,再組裝而成;手機被丟棄,又成為電子廢棄物(e-waste),在地底下待上極其漫長的時間,成為未來的化石紀錄。

Parikka 書中舉的一個例子,足以讓這種物質重量變得相當有實感:

一片僅重 2 公克的記憶體晶片,生產過程大約要消耗 1.3 公斤的化石燃料與相關材料。

Parikka 以內蒙古包頭的稀土提純基地為例,自 1958 年運作至今,如今以有毒的污泥湖聞名,稱之為數位的暗面(the underbelly of the digital)。

這套思路也拆解了一個日常語言裡的幻術:雲端(the cloud)。

雲,輕飄飄、沒有重量,好像資料懸浮在空中。這個去物質化的隱喻,讓人忘記雲端其實是一座座需要大量電力與冷卻的資料中心,並且需要特定的地理條件。

Parikka 觀察到,資料中心為了降低冷卻成本,會移往北極永凍土或靠河的廢棄造紙廠;由此浮現一種新的全球分工:全球北方提供 the cool,全球南方提供 the cheap(冷,與廉價的勞動力)。連氣候本身,都成了一種可被開採的資源。
​


深層時間,而非長期主義

這個物質路線,在時間維度上與 Bostrom 的論證形成最尖銳的交鋒。

Parikka 在 2023 年的演講〈十年之後,媒介考古學是什麼?〉(What is Media Archaeology? 10 Years Later)裡,為自己想要的深層時間(deep time)劃出界線:

deep times but not the ones that are echoed in the problematic ‘long termism’ of some of current think tanks and transhumanists.

這是深層時間,但不是那些被某些當前智庫與超人類主義者所回響的、問題重重的「長期主義」所指涉的那種。(Parikka 2023)

Parikka 並沒有沒有點名 Bostrom,但我高度懷疑就是衝著 Bostrom 來的。

畢竟〈天文級浪費〉正是長期主義最重要的奠基文本之一,其後與 Toby Ord、William MacAskill 等人一起,把「未來會有天文數字般龐大的潛在人口與心智」發展成一套完整的倫理與資源分配綱領。

Photo by Greg Rakozy on Unsplash

兩種「深層時間」的差異,可以用三個對比說明。

第一,單位不同。Bostrom 的深遠未來,是一個可以被乘以機率、可以與其他選項比大小的量,它被馴化成計算單位。

Parikka 的深層時間,是地質時間;礦物要花數百萬年才形成,電子廢棄物要在地底留存數百萬年。這個時間,可以用鏟子挖、用儀器測、拿到實驗室驗證。

第二,同質與異質的差別。Parikka 的深層時間承襲自 Siegfried Zielinski 的主張:

the history of the media is not the product of predictable and necessary advance from primitive to the complex apparatus

媒介史不是從原始到複雜裝置、可預測且必然的進步的產物。(Zielinski 2006,引自 Parikka)

重點是異質性(heterogeneity),它刻意抵抗被收編進任何單一敘事,不論那個敘事叫做「進步」還是「風險遞增」。把未來寫成單調遞增的風險曲線,在這個框架下,與把未來寫成單調遞增的進步,是同一種方法論動作。

第三,方法本身的歷史性。

Parikka 在同一場演講中提示,要回應 AI 與雲端基礎設施帶來的行星尺度問題,媒介考古學需要回頭處理機率演算(probability calculus)與統計方法自十七、十九世紀以來的歷史。

反過來對準 Bostrom 便能發現他的論證大量倚賴機率與期望值推理,並當成中立、透明的理性工具。如果機率演算本身就是一套有自己歷史、有自己文化技術系譜的裝置,那麼「用機率語言談論存在風險」這件事,就不是可以被跳過的方法論起點,而是需要被檢視的對象。


物質與知識不可分

Parikka 在同一場演講中,還給出了一個比《媒介地質學》原書更精煉的物質性定義:

物質性同時包含 environmental weight(環境的重量)與 epistemic processes of knowledge that media is central to(以媒介為核心的知識認識論過程)。

Parikka 指出,這正是他用「媒介自然」(medianatures)一詞想抓住的東西。他拒絕把物質窄化為礦物、電力與碳排,同時堅持:

我們怎麼「知道」一件事,是被媒介的物質基礎形塑的。

CC BY-NC-ND 4.0 授权
已推荐到频道:身心灵
鋼哥從物理到電機工程再轉到資訊傳播,最後落腳在社會學。衣櫃拿來當書櫃擺的人。我常在媒介生態學、行為經濟學、社會學、心理學、哲學游移;期盼有天無產階級可以推倒資本主義的高牆的兼職家教。
  • 来自作者
  • 相关推荐

📝📝:當 AI 永遠說「你沒錯」| LLM 的迎合諂媚,正好是讓使用者離不開的關鍵

📝📝:《恐怖心展・台北》| 讓人頭皮發麻,是恐懼、噁心,還是詭異?

📝📝:當 AI 福利從哲學問題變成使用條款|一場關於「預防原則」與「責任歸屬」的辯論