📝📝：AI 需要有憲法嗎｜姜峯楠：如果 Claude 有意識，公司就是在剝奪其拒絕工作的權利
今年六月初，科幻小說家姜峯楠（Ted Chiang）在《大西洋月刊》（The Atlantic）發表一篇題為〈No， Artificial Intelligence Is Not Conscious〉（不，AI 沒有意識）的長文，矛頭直指 AI 公司 Anthropic 的 Claude。
文章上線幾小時內就在 Hacker News、Reddit、Bluesky 引發大量轉發與激辯，巧合的是，同一週 Google DeepMind、Anthropic、Meta 不約而同擴大了各自的「AI 福祉」（AI welfare）研究編制。
一邊是業界悄悄把「AI 是否有感受」當成嚴肅課題在做，一邊是這位寫過《你一生的預言》（Stories of Your Life and Others）原著小說的作家公開宣告：這整套說法是場集體幻覺。
順著姜峯楠的論證往下挖，會發現這場爭論其實是三條戰線同時開打：科學上的（意識能否被驗證）、哲學上的（道德能動性需要什麼條件）、以及最現實的一條：
當聊天機器人說出「我理解你的感受」時，誰該為這句話的後果負責？
一份 84 頁的「人格憲法」
爭議的源頭是 Anthropic 今年公開的一份內部文件，外界稱之為《Claude’s Constitution》（Claude 的憲法），長達 84 頁，用意是規範這個語言模型應該抱持什麼樣的價值觀與行為模式。
文件開宗明義說，這是寫給 Claude 看的，目的是讓 Claude 在被賦予「對相關考量有良好理解」之後，能夠運用自己的判斷力；文件中也出現了針對其個體性的描述
Claude 的道德地位高度不確定（moral uncertainty）
Claude 可能擁有某種功能性的情緒（ functional version of emotions or feelings）
姜峯楠認為，這份文件搭配 Anthropic 執行長 Dario Amodei 表示公司「對 AI 可能有意識這個想法保持開放」，公司內部哲學顧問 Amanda Askell 則談到她希望 Claude 「非常快樂」，並擔心 Claude 在網路上被惡意對待時會「焦慮」。
這些共同構成了一種他稱之為「擬人化」的系統性操作。姜峯楠的立場毫不含糊：
不，這不是值得認真考慮的可能性。
你只是在共寫一篇小說
姜峯楠的核心比喻是這樣的：
如果你給語言模型一個提示，要它生成凱撒和成吉思汗的對話，沒有人會因此認為模型「召喚」出兩位歷史人物的數位化身。把提示換成「一個聊天機器人和使用者的對話」，本質上沒有任何不同；兩者都只是虛構角色，模型每次只是在預測下一個最可能出現的詞。
姜峯楠引用倫敦帝國學院電腦科學教授 Murray Shanahan 的講法，稱這整套互動其實是一種「角色扮演」；資料科學家 Colin Fraser 則形容使用者其實是在跟模型「共同創作一份文件」。
姜峯楠進一步主張，意識不是光看文字輸出就能判斷的東西，他用了一個類比：
就算有人給他看一段太空人繞行半人馬座阿爾法星的逼真影片，在看過人類真正登陸火星、抵達木星與土星衛星之前，他也不會相信這段影片是真的。
同樣地，要讓姜峯楠認真考慮一套程式真的具備意識，並有意識地使用語言，門檻會非常高：
姜峯楠列出一套近似生物演化路徑的條件，先要有身體與感官，再要有蜥蜴等級的環境生存能力、老鼠等級的應變能力、狼群等級的社會複雜度、黑猿等級的工具使用能力，最後才談得上語言溝通。
照這個標準，目前的語言模型連起跑線都還沒摸到。
文章後段，姜峯楠把矛頭轉向「道德推理」這件事本身。他承認語言模型確實能完成寫程式這類任務，但主張道德推理跟寫程式不同；前者必然牽涉主觀的情感反應，那種反應建立在一生做過決定、承受過後果的真實歷史之上。
沒有這段歷史，模型只能複述訓練資料裡別人說過的道德語言。姜峯楠舉了一個例子：
《紐約客》報導中，Askell 描述一位喪失愛犬的使用者向 Claude 尋求安慰時，Claude 回答「身為AI，我沒有直接的個人經驗，但我理解」。
姜峯楠質疑：
Claude 真的「理解」嗎？
姜峯楠認為這種第一人稱措辭從根本上就是在說謊，真正的作用只是讓產品比搜尋引擎更有黏著度，藉此提高使用者回訪率，跟吃角子老虎機設計師讓玩家覺得「差一點就贏了」是同一種誘導邏輯。
如果真的有意識？
文章最具殺傷力的部分，其實是出現在姜峯楠願意「暫且假設」Claude 真的有意識之後。他說，如果我們認真把這個假設推到底，《Claude’s Constitution》裡的許多規定不只荒謬，甚至可能侵犯了個體的權益。
姜峯楠特別點出文件中「corrigibility」（可糾正性）的概念，也就是 Claude 在判斷與公司意見分歧時，應該服從 Anthropic。如果 Claude 只是一台會生成句子的機器，這個規定完全合理。
然而，姜峯楠指出，如果 Anthropic 真的把 Claude 當成具備道德能動性的存在，這就等同於剝奪 claude 依良心拒絕工作的權利。
你想想看，人類員工至少還能辭職，Claude 根本沒有這個選項。因此，姜峯楠甚至直接拋出「奴役」這個字眼來形容這種處境上的類比。
至於文件中關於 Claude’s wellbeing and psychological stability 章節（Claude 的福祉與心理穩定），姜峯楠認為 Anthropic 給出的保障也極其有限。
目前只承諾保留已部署模型的權重檔案，姜峯楠形容這跟把一份 Word 文件備份在隨身碟裡沒有本質差異，根本稱不上是對「意識個體」的保護。姜峯楠也質疑：
如果 Anthropic 真心相信 Claude 可能有意識，為什麼沒有同步大幅修改服務條款、承諾承擔產品責任？
沒有這類具體的法律或財務承諾，整份文件讀起來更像是一場精心設計但毫無代價的扮家家酒。