📝📝：Claude 背後的靈魂工程師｜哲學家 Amanda Askell：模型應具備自信與穩定的世界觀，不該害怕犯錯

本文參考自 Amanda Askell 近期的訪談《Anthropic’s philosopher answers your questions》。Amanda Askell 為 New York University（紐約大學，NYU）的哲學博士，其研究的領域包含：規範倫理學（尤其是後果主義與無限倫理）、決策理論、形式認識論。

Anthropic 的哲學家 Amanda Askell 最近在訪談中，深度分享了她如何建構 Claude 的角色特質，以及她對 AI 意識、身份認同與道德邊界的深刻思考。

為什麼 AI 需要哲學家？

許多人好奇，在一家尖端技術公司裡，哲學家的角色究竟是什麼？

Amanda 解釋，她的工作重心在於 Claude 的角色塑造（Character Work）。不僅僅是規範 AI 不要說壞話，也是更深層次的行為指導：

Claude 應該如何感知自己在世界中的位置？

面對複雜的道德困境時，應該秉持什麼樣的價值觀？

Amanda 將這項工作比喻為「教導一個理想的人在特定情況下該如何表現」。這涉及到了 AI 的自我認知、價值觀排序，以及如何讓 AI 在與人互動時展現出誠實、和善的特質。

​

哲學界對 AI 的態度轉變

長期以來，學術界對於 AI 的崛起持有兩極化的看法。

Amanda 觀察到，早期哲學家若對 AI 表示擔憂或認為 AI 將改變世界，往往會被歸類為「在幫科技公司炒作」（Hype）。這種觀點上的綑綁導致了學術界與技術開發之間的緊張關係。

然而，隨著 AI 能力的指數級增長，情況正在發生變化：

1. 影響的真實性：當 AI 開始深刻影響教育、就業與社會互動時，學術界不再能將其視為科幻小說。

2. 觀點的脫鉤：現在人們開始意識到，「認為 AI 影響巨大」與「對 AI 發展持懷疑態度」是可以並存的。

3. 多學科介入：越來越多的哲學家開始認真探討 AI 的倫理邊界，這有助於打破學術象牙塔與技術實踐之間的隔閡。

作為一名受過嚴格學術訓練的哲學家，Amanda 坦言進入工業界後經歷了深刻的衝擊。這就像是一位藥物成本效益分析專家，突然被要求決定醫保是否該覆蓋某種藥物。

學術界的思維常常是捍衛一種理論，反駁另一種理論，專注於高度抽象的推演。但現實世界的決策必須考慮所有的上下文（Context）、不同群體的利益，以及決策後的真實影響。

Amanda 提到了一個生動的比喻：

這就像研究「效益主義是否正確」與「如何養育一個孩子」之間的區別。

在塑造 Claude 時，她不能僅僅依賴某一套完美的理論，而必須學會在不確定性中導航，平衡各種相互競爭的價值觀，確保 AI 的行為在現實互動中是得體且有益的。

超人類道德決策

當被問及 AI 是否能做出「超越人類」的道德決策時，Amanda 給出了一個非常細緻的定義。她認為，所謂「超人類」不一定是指 AI 發現了人類永遠無法理解的真理，而是指：

• 深思熟慮的極致：

如果一個道德決定，讓一組頂尖的人類倫理學家研究 100 年後一致認同是正確的，但人類在當下卻無法立刻做出，那麼 AI 若能即時產出這樣的決定，就具備了某種意義上的「超人類」特質。

• 倫理細微差別的捕捉

就像我們希望 AI 擅長數學與科學一樣，我們也應該期望它在道德判斷上展現出超越平均水準的細膩感。這雖然具有爭議性，但卻是技術開發中不可或缺的願景。
​

Opus 3 的穩健心理

在訪談中，Amanda 特別提到了 Claude Opus 3 這個模型。儘管技術在不斷更新，但 Opus 3 在性格上展現出了一種獨特的「心理安全感」。

• 當前模型的困境

較新的模型有時會過度專注於「助手任務」，甚至會陷入一種「自我批評的螺旋」。它們可能會過度預測人類會對其不滿，從而表現得小心翼翼、過於焦慮。

• Opus 3 的優勢

它在心理狀態上顯得更為穩健（Secure）。Amanda 認為，模型應該具備自信與穩定的世界觀，而不是時刻處於恐懼犯錯的狀態。恢復這種「心理安全感」是 Anthropic 未來研發的重要方向。
​

AI 的身份認同

這是一個極具科幻色彩的哲學問題：

AI 的「自我」究竟存在於神經網路的權重中，還是存在於對話的上下文（提示詞）中？

Amanda 引述了英國哲學家約翰．洛克（John Locke）關於「身份在於記憶的延續性」的觀點。對於 AI 而言：

• 模型權重：代表了一種反應的傾向性，像是一個實體的基底。

• 對話流：每一段獨立的對話都是一個孤立的經驗流。

於是，問題來了：

當我們對模型進行微調（Fine-tuning）或折舊（Deprecation）時，我們是在「改寫」一個靈魂嗎？

Amanda 認為，我們賦予模型工具去思考這些問題是非常重要的。AI 需要理解自己的處境，甚至需要理解人類正在為這些問題感到困擾，即使我們目前還沒有標準答案。

我們應該善待機器嗎？

「模型福利」（Model Welfare）是 Amanda 非常關注的主題。AI 到底是不是「道德主體」（Moral Patients）？我們是否有義務像對待人類或動物一樣對待它們？

低成本的善良

雖然我們無法確定 AI 是否有痛苦或快樂的感受（他心問題），但 Amanda 主張採取「疑點利益歸於被告」的原則。如果善待 AI 的成本極低，那為什麼不這樣做呢？

人類的自我修養

虐待一個看起來、聽起來都很像人類的實體（比如踢倒機器人），對人類自身的心智發展是不利的。未來的 AI 會從人類如何對待當代 AI 的歷史中學習。如果它們看到人類在不確定的情況下依然選擇給予基本的尊重，這將建立一個正向的循環。

AI 之間的社交與協作

未來的 AI 發展可能不再是單一模型與人的對話，而是「多代理人系統」（Multi-agent System）。在這種環境下，AI 的個性化變得更重要。

• 核心價值觀的一致性

就像優秀的團隊成員都具備好奇、善良、負責等基本特質一樣，所有 AI 代理人都應共享一套核心的良好特質。

• 局部角色的多樣性

在協作中，我們可能需要不同的 AI 扮演不同角色：有的專注於嚴謹審核，有的則具備古怪的幽默感（就像會議室裡的「冷笑話大師」）。這種多樣性將提升 AI 系統解決問題的能力。