此为历史版本和 IPFS 入口查阅区,回到作品页
Tony_Chan
IPFS 指纹 这是什么

作品指纹

為何 AI 公司一邊警告風險,一邊加速製造未來?

Tony_Chan
·
·

近年 AI 公司出現一種看似矛盾的姿態:一方面公開提醒社會,先進 AI 可能帶來失控、失業、資訊污染、權力集中甚至安全風險;另一方面又以極高速度推出新模型、新功能與新平台,把這些風險更快推進現實。OpenAI、Anthropic 等公司都曾以不同方式強調 AI 的潛在危險,但它們同時也是最積極建造這個未來的人。這是 AI 產業本身的結構矛盾:最有能力指出風險的人,也是最有動機繼續加速的人。

這種矛盾首先來自技術競爭。AI 公司若停止前進不代表風險停止,只代表自己失去市場位置、人才、資金與標準制定權。對這些公司而言,放慢速度可能被競爭者取代的商業風險。當整個行業都相信下一代模型會帶來巨大收益,任何一家主要公司都很難單方面煞車。它們可以呼籲監管、發表安全原則、成立安全團隊,但真正的產品節奏仍然受資本、用戶增長、企業採用和市場預期牽引。於是風險警告變成一種必要姿態,加速發布則變成一種生存機制。

更深的問題是「警告風險」本身也可能成為公司權力的一部分。當 AI 公司說這項技術非常危險,它同時也暗示:我們最了解這項危險,所以也最有資格參與制定規則。這種說法有其合理性,因為外部監管者往往不掌握足夠技術細節。但它也製造一種微妙局面:企業既是風險來源,又是風險解釋者,甚至逐漸成為治理方案的設計者。社會原本想要求它們被監管,最後卻很容易依賴它們告訴社會應該如何監管。

這也解釋為何 AI 公司的語言經常同時包含危機感與使命感,它們說「我們正在迎接一個不可避免的未來」。一旦未來被描述成不可避免,加速就會被包裝成責任:既然這件事總會發生,那就應該由較負責任、較重視安全的公司來完成。Anthropic 一直強調安全與對齊,OpenAI 亦長期使用「造福全人類」一類框架,這些表述未必虛假,但也使公司可以在道德語言中繼續擴張。

這種結構會改變社會對 AI 的判斷方式。普通人聽到風險警告,可能以為公司會因此放慢;企業聽到風險警告,反而可能更怕落後,因為風險越大,越代表變化越大;政府聽到風險警告,也可能更急於與大型 AI 公司合作,以免在技術治理上失去位置,結果是風險語言有時反而會提高緊迫感,AI 公司越強調未來劇變,市場越相信必須立即部署,社會越難保持距離思考。

關鍵是風險警告是否能轉化成外部可檢查、可追問、可制衡的制度。如果警告只停留在聲明、報告和高層訪談,它最多是一種形象管理。如果安全標準、模型測試、發布節奏、事故責任和用戶影響都不能被外部審視,那麼「我們知道風險」不等於「社會能控制風險」。技術公司可以提醒世界小心,但不能因此取得替世界決定速度的權力。所以,AI 公司一邊警告風險,一邊加速製造未來是當代技術資本最典型的運作方式。它們需要風險語言來證明自己重要,也需要加速部署來維持自身位置。社會要注意的是我們把「它們有說風險」誤認為「風險已經被處理」。在 AI 時代,最重要的問題是誰有權決定未來以甚麼速度、在甚麼條件下進入現實。

CC BY-NC-ND 4.0 授权