Life | 電影《人造意識》與我們對「意識」的恐懼

《人造意識》（Ex Machina）
導演：Alex Garland
編劇：Alex Garland
主演：Alicia Vikander、Domhnall Gleeson、Oscar Isaac

以下內容會討論故事設定、角色關係與部分主題，不涉及關鍵轉折與結局。

我們怎麼知道，它真的有意識？

2015年上映的科幻電影《人造意識》（Ex Machina）表面上是一個相當簡單的故事：年輕程序員 Caleb 被神秘的科技大亨 Nathan 邀請到一座與世隔絕的私人研究所，參與一場特殊的圖靈測試。他的任務是：與人工智慧 Ava 交談，判斷她是否具備真正的意識。

乍看之下，這似乎是一場關於機器的考試。Caleb 是評判者，Ava 是被評判的對象；他提出問題，她做出回答；他觀察她的反應，再試著判斷那些反應背後究竟有沒有一個真正的「心」。

但電影真正令人不安的地方，恰好在於：我們很快就會開始懷疑，這場測試究竟是在判斷 Ava，還是在暴露 Caleb 自己的判斷方式。

這個問題，其實比「AI 會不會思考」還要久遠。1950 年，英國數學家 Alan Turing 在〈Computing Machinery and Intelligence〉一文中，提出了一個後來廣為人知的「模仿遊戲」。他沒有直接替「思考」下定義，而是把問題轉換成一個比較容易操作的形式：如果機器在文字交流中，能讓人類無法可靠地分辨它與人之間的差異，那麼我們是否還有必要堅持，它不能被稱為會思考？

這個轉換很重要，因為它把一個看似抽象的哲學問題，變成了對「行為」的觀察。可是，表現得像有意識，和真的有意識，是同一件事嗎？

哲學家 John Searle 提出「中文房間」思想實驗，從另一個方向挑戰了這個問題。想像一個完全不懂中文的人，待在一間房間裡，手上有一套複雜的規則，讓他可以根據外面傳進來的中文符號，依照規則交出正確的中文回答，這就會讓房間外的人以為裡面的人懂中文。但實際上，房間裡的那個人可能從頭到尾都不知道自己處理的符號是什麼意思。這個思想實驗是 Searle 在 1980 年〈Minds, Brains, and Programs〉中提出的核心論證，用來質疑「只要執行正確的程式，就等於真正理解」的主張。

當然，這個思想實驗本身也引發了大量哲學爭論，並不是一個已經替 AI 意識問題蓋棺論定的答案。但它至少提醒我們：我們以為自己在辨認「理解」，有時候其實只是在辨認「理解的表象」。

而這正是《人造意識》電影最有意思的地方。Caleb 想知道 Ava 是否真的理解情感、幽默、恐懼與欲望，但他能夠接觸到的，始終只是她的語言、表情、反應，以及她如何回應他。問題是，這些外在表現不只是測試的材料，也可能同時是影響測試者的手段。

於是，一個原本看似單純的問題開始變得複雜：如果我們只能透過一個存在的表現，去推測它是否具有內在經驗，那麼我們究竟是在判斷意識，或只是在判斷某些足以讓自己相信它有意識的證據？

更進一步說，這甚至不只是 AI 的問題。

我們平常很少懷疑身邊的人是不是真的有意識。朋友說自己難過，我們不會要求他先提出一份「痛苦存在證明」；別人說自己害怕，我們也不會先召開一場關於恐懼本體論的研討會。哲學裡所謂的「他心問題」（problem of other minds），正是在追問：我們究竟如何知道，除了自己的心智之外，其他存在也有內在的心智經驗？

我們對他人的意識，本來就只能透過某些跡象來推測。只是面對人類時，我們已經習慣了這件事；但面對 AI時，這個問題突然被放大到我們無法忽視的程度。

所以，電影《人造意識》真正讓人不安的地方，可能不是它展示了一個「很像人」的機器，而是它讓我們開始懷疑：如果有一天，一個非人類存在的表現足夠讓我們相信它有心智，我們又如何證明自己的判斷沒有被它操控？

當我們凝視它，也正在被它凝視

電影裡大量出現玻璃隔斷、透明牆面與鏡面反射。Caleb 隔著玻璃看著 Ava，而玻璃有時也映出他自己的臉。這些畫面乍看只是冷峻、漂亮、帶有某種實驗室的科技感，但它們其實一直在提醒我們：凝視不是單向的。

在傳統的人機關係想像裡，人類是主體，機器是客體；人類負責觀察、命名、測試，機器則等待被理解、被分類，甚至被決定是否值得被認可。

但電影裡把這個關係翻轉過來。Caleb 以為自己站在玻璃外面，因此擁有某種觀察的距離；然而，那個距離也可能只是整個實驗設計的一部分。他以為自己在看一個被隔離的對象，卻未必意識到，自己也身處另一個被安排好的空間裡。

這裡可以借用法國思想家 Michel Foucault 對「凝視」與權力的思考。傅柯在《規訓與懲罰》中討論全景敞視（Panopticism）時，關注的並不只是「有人在看」這件事，而是當一個人知道自己可能被觀察、被評估、被分類時，這種可被觀察性本身，就可能成為一種控制力量。

《人造意識》電影當然不是在直接重現傅柯所描述的監獄模型，但它讓這個問題變得非常具體：當 Caleb 坐在玻璃前，當 Nathan 透過監視設備掌握研究所裡的動靜，當每一個人都以為自己正在取得某種資訊優勢時，究竟誰才真正掌握了觀看的權力？

更有趣的是，Ava 的存在讓「被看」和「主動觀看」之間的界線變得更模糊。她是一個被設計出來、被放置在透明空間裡供人觀察的人工智慧；但她同時也是一個會觀察別人、理解情境、做出回應的存在。

於是，玻璃不再只是隔離機器與人類的材料，而像是一道不斷提醒我們的界線：我們以為自己站在觀看/被觀看界線的某一邊，但界線本身，也是別人替我們安排好的。

這也是為什麼電影的恐懼感並不主要來自機器人的外觀。真正令人不安的，是當一個原本被視為「物件」的東西，開始展現出某種不容易被我們完全掌握的觀看能力時，我們突然發現，自己並沒有想像中那麼穩固地站在主體的位置上。

創作者能把它當成物品嗎？

如果說 Caleb 的問題是「我們怎麼知道它有意識」，那麼 Nathan 的問題就是另一個更難回答的問題：如果它真的有意識，創造者究竟有沒有權力決定它應該怎麼活？

Nathan 是這部電影裡最接近「造物者」的位置。他擁有技術、資源與知識，也擁有決定哪些人工智慧可以被製造、哪些可以被淘汰的權力。他看待自己的創造物時，似乎始終保留著一種工程師的距離：它們是設計出來的，是可以被測試的，也是可以被重新修改的。這讓人很容易聯想到 Mary Shelley 的《科學怪人：另一個普羅米修斯（Frankenstein; or, The Modern Prometheus）》。

1818 年出版的《科學怪人》，講述科學家 Victor Frankenstein 創造並賦予一個生命體生命，卻在創造之後，無法真正承擔起與這個生命之間的關係。這部小說後來經常被視為現代科幻文學的重要源頭之一，而它最值得反覆閱讀的地方，也許不只是「人類創造了怪物」，而是：當你創造出一個具有感受、欲望與行動能力的存在時，你是否也同時創造了某種責任？

這個問題放進《人造意識》裡，就變得格外尖銳。因為「創造」和「控制」原本很容易被放在同一個句子裡。當一個東西是我製造的，我似乎自然會認為自己有權決定它的用途、壽命與行動範圍。但如果那個東西不只是物件，而是逐漸形成了自己的欲望、自己的判斷，甚至自己的生存目標，那麼「它是我的作品」還能不能成為控制它的理由？

這裡最值得思考的，或許不是 Nathan 究竟是不是一個「壞人」，而是他所代表的那種創造者心態：我能夠製造它，所以我也有權定義它。

但創造一個存在，和理解一個存在，並不是同一件事。更不用說，創造者對造物的理解，往往可能只停留在「我設計它時，希望它成為什麼」的層次，而不是真正理解「它後來成為了什麼」。

這也是《科學怪人》與《人造意識》之間最有意思的對照。創造者以為自己掌握了生命的起點，因此也理所當然地認為自己掌握了生命的意義；但一旦造物開始展現出不可完全預測的行動，創造者就必須面對一個不太舒服的事實：你可以創造一個存在，卻不代表你能永遠控制它。

這個問題還可以近一步討論。如果一個智能體的欲望、恐懼與求生本能，是由創造者設計出來的，那麼它後來的行動究竟應該被視為它自己的選擇，還是創造者設計的延伸？如果它的行為令人不安，我們應該把責任放在它身上，還是回頭追問：究竟是誰創造了它所處的環境、限制，以及它必須在其中做出選擇的條件？

電影沒有直接提供答案，也沒有讓「創造者」與「造物」之間的責任關係變得乾淨俐落。相反地，它把這個問題留在那裡，讓我們自己去想：當一個存在開始擁有自己的欲望時，創造者的權力，是否也應該開始受到限制？

我們想創造的，究竟是什麼樣的「人」？

Ava 的身體，是電影裡另一個不能忽略的部分。她不是一個沒有形體的人工智慧，也不是一個單純被放進機器外殼裡的程式。她被賦予了女性化的身體、臉孔、聲音與動作；她的形象既具有科技感，又刻意保留了某些讓人聯想到人類女性的特徵。

這當然不只是美術設計。如果我們把問題放大一點，就會發現：當人類開始設計一個「像人」的人工智慧時，我們究竟會選擇讓它像什麼樣的人？它的外表應該是什麼？它的聲音應該是什麼？它應該表現出什麼樣的情緒？它應該如何讓人感到親近、可信賴，甚至產生情感投射？

這些選擇看似只是產品設計，卻可能藏著非常深的文化預設。

女性主義電影理論家 Laura Mulvey 在 1975 年提出的「男性凝視」（male gaze）概念，原本是用來分析主流電影如何透過影像語言，把女性安排成供觀看的對象。這個概念後來被廣泛運用於討論性別、影像與權力之間的關係。

《人造意識》有趣的地方是，它不只是讓我們看見一個被男性設計、被男性觀看的女性化人工智慧身體，也讓我們看見：這個被設計的形象，可能同時成為她與人類互動時的一種方式。

因為Ava 的身體並不是中性的。她的外觀、服裝、聲音與表情，都會影響 Caleb 如何理解她。她越接近人類熟悉的形象，Caleb 就越容易把某些人類的情感與意圖投射到她身上。

但這裡最值得玩味的，並不是簡單地說「Ava 利用了男性凝視」，或者「電影批判了男性凝視」。真正的問題是：當一個存在被設計成符合某種凝視時，它究竟是在被這套凝視限制，還是也可能學會利用這套凝視？

這讓 Ava 的身體變成一個很微妙的東西。它既是創造者權力的證據，也是她與他人建立關係時不可忽略的條件。她的形象不是自然長成的，而是被選擇、被設計、被賦予意義的；但一旦這個形象開始進入人與人之間的互動，它又可能產生創造者沒有完全預料到的效果。

這裡也可以連到一個更廣泛的問題：我們總以為在創造 AI 時，只是在創造一個工具，但我們是否也正在把自己對「理想的人」的想像，寫進這個工具裡？

我們希望它聰明，但不要太有威脅性；希望它能理解情緒，但最好能按照我們期待的方式回應；希望它具有個性，但又不要真的脫離我們的控制。當這些要求被放在一起時，我們會發現，所謂「理想人工智慧」可能從來不只是技術問題，它也可能是一種文化投射：我們希望創造出一個足夠像人的存在，但又不要像人一樣擁有不受我們支配的自由。

也許我們害怕的，不只是 AI 有意識

《人造意識》電影裡最吸引人的地方，是它沒有把「意識」當成一個只要通過測試，就能獲得明確答案的資格認證。它讓我們看見，意識這件事本身就很難被外部判斷；而一旦我們開始試圖判斷它，判斷者的欲望、偏見、恐懼與權力位置，也會一起進入測試之中。

Caleb 以為自己在判斷 Ava 是否有心智，但他的判斷同時受到他對人類的理解、對女性形象的投射，以及他對 Nathan 的信任與懷疑所影響。Nathan 則以為自己可以透過設計與控制，掌握人工智慧的行動，但他也必須面對一個問題：當你創造的東西開始形成自己的行動邏輯時，你是否還能把它當成一個可操控的物件？

這讓我想到《莊子・齊物論》裡那個著名的夢蝶故事。莊周夢見自己成為蝴蝶，醒來之後，卻開始疑惑：究竟是莊周夢見自己成為蝴蝶，還是蝴蝶夢見自己成為莊周？莊子當然不是在預言人工智慧，但這個故事可以讓我們換一個角度思考：我們對「我是誰？」「什麼是真實？」這些關於意識與身體的確定感，究竟建立在什麼上面？

《人造意識》把這個問題換成了另一種形式：如果一個存在的行為、欲望與反應，都足以讓你覺得它有心智；這時候你再反觀自己與它無異的行為、欲望與反應，你又憑什麼確定，自己是是站在真實的那一邊？

當然，這不代表「只要 AI 表現得像人，就一定有意識」，但足以讓我們思考，我們對意識的理解，可能遠沒有自己以為的那麼明確。我們原本以為，自己害怕的是一個機器表現得太像人；但看完之後，卻開始懷疑，究竟是什麼讓一個存在有資格成為「人」？

如果你還沒看過這部電影，先不要急著替 Ava、Caleb 或 Nathan 找到最終答案。帶著這些問題去看，反而更能感受到這部電影的魅力。因為《人造意識》有趣的地方，不只是關於「機器有沒有意識？」而是它讓你一路看到最後，卻開始懷疑另一件事：當我們以為自己正在測試一個存在時，我們自己的感受和判斷又有多值得信賴？