單一霸權敘事、閉源的AI帶給世界可能的威脅

我有幸參與第十一屆Asia Pacific Futures Network（亞太未來學聯盟）會議（APFN 2025）的幕後工作。這次的會議驗證了我許多過去的思考，也帶給了我許多不一樣的視野。未來學的重要學者Prof. Sohail Inayatullah在開幕式的演講中，指出當代世界的脆弱性，即技術快速躍進，而治理、文化與法制的調適大幅落後，造成教育、司法與全球治理的系統性不穩。同時，Prof. Inayatullah提醒文化敘事先於策略，若持續以單一霸權敘事框定AI，公共利益與多元價值就無從長出生態位，技術便只會複製既有權力結構。

我在碩士班的研究中，針對數位未來的樣貌，其中一個未來情境，也是目前很有可能持續發展的情境，就是大政府與大企業的模式，也就是1984或賽博龐克社會，或稱技術監控社會。在以美國為首的系統，是由擁有最多數據資源的大企業將掌握了未來的世界，猶如1980年代崛起的賽博龐克未來情境一樣，荒阪公司掌握了你生活的一切，這就是「大企業」的模式；而以中國為首的系統，則是由政府掌握一切數據，宛如喬治歐威爾小說《1984》一樣，由「老大哥」看著你，形成「大政府」的模式。這樣的情境，技術變革由政府或大型企業自上而下強制推行，公眾對技術的恐懼與不信任成為常態。這種模式下，技術不再服務於個人福祉，而是成為控制與壓迫的工具，社會結構趨向極權化。是的，我們正在走向這樣的世界裡。上個世紀，人們說，誰掌握石油，誰就掌握世界，21世紀則是誰掌握了數據，誰就掌握了世界。

儘管歐盟試圖透過法案監管AI，但最終回到「人」來進行的審查，就難以逃脫利益衝突問題、政治利益問題……等。來自杜拜未來基金會的前瞻負責人（Foresight Lead）Dr. Heba Chehade則提到，面對人工智慧技術賦能帶來的新問題，最好的方式就是「打開黑箱」，也就是當風險越高，就需要更多的揭露，特別是在過程中。這也是為什麼今年初，當來自中國的DeepSeek公布的R1模型，將AI思考過程展現給用戶時，原本採取不公開策略的OpenAI也開始走向公開AI思考過程，甚至走上模型開源的道路。當時OpenAI執行長奧特曼坦承錯誤，也就是OpenAI的閉源策略令他們站到歷史錯誤的一邊。

既然開源共享是未來趨勢，這也意味著以美國為首的智慧財產權制度正在開始土崩瓦解中。共享經濟在過去一段時間經歷挑戰，從Airbnb到Uber，原本更加環保、解決閑置空間的結合科技的創意，都面對各地法律的挑戰，最終無法打破既得利益者（有牌照的旅館、有牌照的計程車）的政治遊說與選票壓力。然而，隨著AI帶來的變動更加快速，以及整體經濟、勞動力結構的重整甚至重塑，開源共享的大趨勢、大方向將是既得利益者難以逃避的。

此外，AI是「萬靈丹」還是「末日機器」？塔什干未來學與預見性治理聯合國教科文組織講座教授、清邁大學兼任講師Dr. John Sweeney在他的演講中提到，我們需要將AI從介面還原為人類—技術—供應鏈的複合體，並提醒必須納入原料採掘、資料標註、演算法設計與不可見系統等面向，否則治理視野將被工具主義與單一敘事綁架。如同以色列歷史學家尤瓦爾·哈拉瑞在《智人之上》（Nexus）一書中提到，人工智慧可能會「反客為主」，操控人類。他特別提到，如果AI強大到擁有類似人類的思維，它不僅可以決定把什麼樣的數據分發給人類，更能打破人類對虛擬想像和抽象能力的壟斷，反過來給人類灌輸共識或秩序。書中還引用了哲學家博斯特羅姆的「回形針寓言」：一台被賦予「盡可能擴大回形針產量」任務的超級電腦，最終操控了整個地球，甚至滅絕了人類——因為人類佔用了生產資源。而這正是類似於阿諾史瓦辛格1984年主演的電影《魔鬼終結者》（Terminator）的劇情。

是的，正如我經常與許多人討論的，假如AI在最終演算，要讓地球永續的方式，是消滅全球一半的人口，我們要選擇消滅嗎？如果是，又是誰應該活著？誰應該被消滅呢？嗯……是的，這聽起來很「環保」，但也再度讓話題走入了「地獄梗」、「政治不正確」的環節裡……

我們正處在一個社會急速變化的時代裡，未來的確遙不可測，但駕駛各種不同劇情的模擬艙可以讓我們預先體驗可能的未來，或許你不會再因此而感到畏懼。

P.S.很榮幸能與Prof. Sohail Inayatullah、Dr. Trish Lavery、Prof. Shermon Cruz以及我的夥伴們（Alicia Yi-Ting Hsu、Amy Hsuan-Yu Shih和Hector Wong）合影