AI 不能只服務少數人的權力,技術文明需要新的公共倫理
AI 的問題已經不只是技術問題。當人工智能進入教育、醫療、金融、軍事、企業管理、內容生產和公共治理時,它開始參與社會資源的分配。誰能使用 AI,誰能控制 AI,誰能決定 AI 的用途,都會直接影響未來社會的權力結構。所以討論 AI 倫理時,不能只停留在模型是否安全、系統是否準確、工具是否好用,更要追問它最終服務的是誰。
教宗以通諭形式討論 AI,表面上似是宗教界對科技文明的回應,但觸及的是一個更普遍的問題:當技術能力越來越強,人類社會是否有足夠的公共倫理去限制它的使用方向。AI 可以用來改善醫療、教育和公共服務,也可以用來監控、操控、篩選和排除人。技術本身不會自動導向善用,它會被放入現有的權力結構之中。若現有制度本來就傾向集中利益,AI 只會進一步放大這種集中。
很多人談 AI 時,習慣用進步來理解它。這種理解有其合理性,因為 AI 的確可以降低知識門檻、提升生產效率,甚至讓很多原本無法取得專業服務的人得到支援。但問題是進步不等於公平。歷史上很多技術都提高整體生產力,但收益未必平均分配。當 AI 的基礎設施掌握在少數科技公司、資本集團和國家機器手中,技術進步很可能變成權力集中的新階段。
這是 AI 公共倫理的第一個核心問題:技術收益如何分配。若 AI 主要服務大型企業降低成本、服務金融市場提高交易效率、服務政府提升監控能力,普通人得到的可能只是更激烈的競爭、更不穩定的工作和更難理解的決策系統。這種情況下,AI 雖然提升了整體效率,但未必提升了人的尊嚴。社會不能只問 AI 能做到甚麼,也要問它讓誰變得更有能力,讓誰變得更被動。
第二個問題是責任。AI 系統越複雜,責任越容易被稀釋。企業可以說決策是模型建議,政府可以說結果來自演算法評估,平台可以說內容分發是系統自動完成。當錯誤發生時,真正負責的人反而變得模糊。這種情況很危險,因為公共生活不能建立在沒有責任主體的技術系統上。AI 可以輔助決策,但不能成為逃避責任的屏障。
第三個問題是人的位置。AI 的能力越強,社會越容易把人理解成可被計算、分類和優化的對象。在企業管理中,人可能被轉化成績效數據;在教育中,學生可能被轉化成學習指標;在金融和保險中,個體可能被轉化成風險模型。這些做法未必全部錯誤,因為社會本來就需要一定程度的量化管理。但若量化成為唯一標準,人就會被壓縮成系統可以處理的格式,而不被看作具有完整處境、尊嚴和不可簡化經驗的存在。
這正是宗教倫理介入 AI 討論的價值所在。它未必能提供具體技術方案,但可以提醒社會不要把人完全交給效率邏輯處理。現代科技文明最容易出現的偏差是把能做的事當成應該做的事,把效率提升當成唯一合理的方向。AI 尤其容易加速這種偏差,因為它能把大量複雜現實轉化成可操作的輸出。
但公共倫理不能只靠善意呼籲。若 AI 要真正服務所有人就需要制度設計。這包括資料使用的透明度、模型決策的可解釋性、演算法偏差的審查、公共部門使用 AI 的責任規範,以及大型科技公司在基礎設施層面的問責機制。若沒有這些制度,AI 倫理就很容易變成企業簡報上的價值宣言。真正倫理是寫進流程、權限、審查和責任分配之中。
尤其在公共治理領域,AI 的使用必須更加謹慎。政府若用 AI 處理福利審批、移民審查、治安預測或社會信用評估,影響是人的基本權利。這類系統一旦出錯,受害者未必有足夠能力理解錯誤來源,更未必有能力向系統提出有效申訴。所以公共部門使用 AI 不能只看效率,也必須設立清晰的申訴渠道、人工覆核機制和外部監督。
企業領域亦一樣。AI 若只被用來壓低成本和提高控制力,它會令工作關係變得更不對等。公司可以用 AI 監察員工表現、分析工作節奏、預測離職風險,甚至決定招聘和裁員。這些工具表面上提高管理效率,但也可能令員工長期處於被量化和被評分的狀態。若勞動者無法知道自己如何被評估,也無法挑戰錯誤判斷,AI 就會成為新的管理權力,不再是單純的工作輔助工具。
教育也是另一個關鍵場域。AI 有能力讓更多人取得個人化學習支援,這是它非常有價值的一面。但若 AI 教育工具主要由少數平台控制,教育就可能被平台邏輯重新塑造。學生學甚麼、如何學、哪些答案被視為合理,可能逐漸受到商業系統和模型偏向影響。教育不能只是內容分發,也涉及人格形成、判斷力培養和公共世界的理解。AI 可以協助教育,但不能取代教育本身的公共責任。
所以,AI 公共倫理的核心是反對技術權力失去邊界。反科技的態度無法處理現實,因為 AI 已經進入社會運作之中。真正需要做的是把 AI 放回人類可以監督、理解和修正的制度框架裏。技術可以強大,但不能不受限制。效率可以重要,但不能成為唯一標準。這亦代表 AI 的治理不能只交給科技公司自己完成。企業有創新能力,但企業的基本目標仍然是市場競爭和利潤增長。若完全依賴企業自律,公共利益很容易被放在次要位置。政府需要制定規範,學界需要提供獨立研究,媒體需要把複雜問題翻譯成公共討論。AI 是一種跨越技術、經濟和政治的力量,它的治理也必須跨越單一部門。
但政府監管也不是萬能答案。若政府本身缺乏透明度,AI 監管可能反而變成國家控制技術的工具。若監管只用來限制競爭者,而不是保護公眾,倫理語言也會被權力吸收。因此,AI 公共倫理必須同時限制企業權力和國家權力。這一點很重要,因為未來 AI 最大的風險,很可能是科技資本與治理權力之間形成新的聯盟。
在這個意義上,教宗提出 AI 不能只服務少數人,真正指向的是技術文明的合法性問題。任何一種深刻改變社會結構的技術都需要回答它與公共利益的關係。若 AI 只讓少數人獲得更多權力,而讓多數人變成被管理、被預測、被取代的對象,那麼它即使在技術上成功,也會在文明上失敗。
AI 時代需要新的公共倫理是因為進步本身需要方向。沒有制度約束的智能系統,很容易變成不透明的支配機制。沒有人的尊嚴作為底線,AI 最終可能建立一個更有效率但更冷漠的社會。真正值得追求的 AI 是能夠擴大人的能力,保護人的基本權利,並讓技術收益不被少數權力結構完全壟斷。這是未來社會能否穩定運作的制度前提。AI 已經成為文明基礎設施的一部分,所以它不能只由市場定義及只由權力機構定義,它必須被放入公共倫理之中,接受人的審查,服務人的共同生活。
