AI 時代的能力為何開始需要煞車？

在過去的科技產業裡，能力越強，通常越應該盡快公開、推出、商業化。新產品的速度代表競爭力，技術突破代表市場優勢，誰能更早把能力交到用戶手上，誰就更易取得資本、數據與品牌位置。這套邏輯在互聯網、智能手機、雲端服務時代大致成立。但到了 AI 時代，問題開始變得不同。當一個模型的能力有可能影響資訊、決策、網絡安全、科學研究、社會心理與組織運作時，「能不能做到」已經不再等於「應不應該立即釋放」。

Anthropic 被指開發出能力很強的模型，但選擇暫時不公開，這件事表面上像是一次產品策略決定，實際上反映的是 AI 產業正在進入另一個階段。過去企業最怕的是技術不夠強；現在有些企業開始面對另一種問題：技術太強，但外部世界未必準備好承接。這裡的關鍵在於 AI 能力的性質已經改變。當能力本身具備外溢風險，企業就不能只用一般產品發布邏輯處理它。

「煞車機制」之所以重要是因為 AI 不是普通工具。普通工具通常有清晰的使用範圍，例如一個軟件處理文件，一部機器提升產量，一個平台改善溝通。即使它們會帶來副作用，副作用多數仍可在較明確的場景中被管理。但大型 AI 模型不同。它可以生成文本、寫程式、分析資料、模擬對話、協助攻防、改寫流程、影響判斷，甚至在不同工具之間串連行動。它的功能邊界會隨著使用者、插件、場景、資料與任務而擴張。

這正是 AI 治理最困難的地方。若一項技術的用途相對穩定，監管者可以針對用途制定規則。可是若一個模型本身是通用能力容器，它的風險就來自能力被不同人放入不同場景後產生的組合效果。同一個模型可以用來提升客服效率，也可以用來大規模生成詐騙訊息；可以幫助工程師除錯，也可以協助惡意行為者尋找漏洞；可以陪伴孤獨的人，也可以加深人對虛擬對象的依賴。這種技術取決於它進入甚麼制度、甚麼動機、甚麼場景。

因此，當最強模型不能公開，我們要思考社會是否已經失去用傳統速度消化技術進步的能力。以前的科技進步，多數仍然可以靠市場試錯。產品推出後，有問題就修補，有爭議就調整。這套做法在低風險產品上仍然可行，但如果模型能力已經涉及資安、輿論、金融、自動化決策或大規模行為操控，試錯成本就可能變成公共系統的負擔。

這裡要分清兩件事。第一，技術不應該因為恐懼而停止發展。第二，技術發展不代表所有能力都應該即時釋放。反對無限制公開不等於反科技，要求煞車機制也不等於要求停車。煞車的目的是讓車在轉彎、下坡、視線不足或人群密集的地方仍然可以被控制。成熟的速度是知道甚麼時候應該減速。

AI 產業目前最大的結構問題是油門比煞車更容易被獎勵，更強的模型可以帶來融資、用戶、估值與媒體聲量。資本市場通常獎勵突破，不太獎勵克制。用戶也往往渴望更新、更快、更聰明的系統，而不會主動為安全評估、模型審計、風險分級或延遲發布支付額外成本。在這種環境下，要求企業自律本身是不穩定的。若煞車只靠創辦人或少數研究者的良心，它很容易在競爭壓力下失效。

所以問題是整個產業有沒有共同承認煞車是一種基礎設施。AI 的安全機制應該成為產品發布流程的一部分。模型能力到達某個程度，就需要更嚴格的測試；涉及某些高風險用途，就需要更清楚的限制；外部部署前，應該有紅隊測試、濫用評估、可追蹤紀錄與事故回報制度。這些安排聽起來會拖慢速度，但它們其實是在避免更大的失控成本。

有人會擔心，若一家企業選擇不公開最強模型，另一家企業可能照樣公開，最後謹慎者被懲罰，冒進者獲利。這個擔心是合理的。AI 治理最難的地方是它不是單一企業可以獨力完成的問題。只要市場競爭仍然以速度和能力為主要指標，煞車就會被視為落後。除非監管、產業標準、投資者、企業客戶與社會輿論共同改變評價方式，否則「安全」很容易變成弱者的道德語言，而不是強者必須遵守的秩序。

但反過來說，長期而言，煞車也可能成為信任資產。AI 會深度嵌入企業、政府、教育、醫療、金融與個人生活的基礎系統。當用戶把越來越多判斷交給 AI，最重要是它是否可靠、可控、可追問、可修正。企業客戶尤其不會只看能力展示，還會關心資料安全、責任歸屬、風險邊界與合規能力。到某個階段，能夠證明自己有煞車的 AI 公司，反而會比只會加速的公司更有制度價值。

這也代表 AI 競爭的核心正在改變。第一階段競爭的是模型能力，誰的答案更好、更快、更像人。第二階段競爭的是產品整合，誰能把 AI 放進工作流。第三階段競爭的，可能是治理能力：誰能讓強大的模型安全進入真實世界。因為當能力足夠強時，問題是「它在甚麼條件下可以做、誰可以使用、出了問題由誰承擔、甚麼時候必須停止」。

從這個角度看，最強模型不能公開正可能是 AI 時代成熟的開始。人類過去太習慣把進步理解成釋放能力，但文明的穩定不只靠能力，也靠邊界。核能不是因為能量巨大就可以隨便使用，金融系統不是因為交易速度快就可以完全取消監管，醫藥研發也不是因為有效就可以跳過臨床測試。AI 若真的成為下一代基礎技術，它遲早也要接受類似的成熟過程。

當然，煞車機制本身也需要被監督。企業不能用安全作為理由，永遠把能力收在黑箱裡，讓外界無法知道它們到底掌握了甚麼。若所有高能力模型都只存在於少數公司內部，社會同樣會面對權力集中問題，所以煞車不應該等於封閉。更合理的方向是建立分層公開制度：哪些能力可以對一般用戶開放，哪些只適合企業或研究機構，哪些需要受控測試，哪些暫時不應部署。這樣才能同時避免失控與壟斷。

AI 時代真正困難的是安排能力。能力一旦出現就會有人想使用它；有人想使用，就會有人想加速商業化；有人加速，就會有人承擔外部後果。若社會沒有能力設計煞車，最後就只能在事故發生後補救。可是對於越來越通用、越來越接近基礎設施的 AI 來說，事後補救可能已經太慢。

當我們聽到「最強模型不能公開」時，不應只把它理解成一條科技新聞，它其實指向一個更大的轉折：人類正在第一次如此直接地面對自己製造出來的認知能力。這種能力可以幫助人類解決問題，也可以放大人類原本的混亂、貪婪與攻擊性。AI 需要煞車，因為能力越強，越不能假設世界會自然承接它。成熟的文明不只問自己能不能前進，也要問自己是否有能力在必要時停下來。

Anthropic 藏最強 AI 模型 共同創辦人籲設「煞車機制」防失控