也來談 【哪個才是我】
讀了 @Wu Ming 的 奇點已近 - 哪個才是我 一文,其中一段非常發人深省 :
作者在書中提出「你」完全沒有被改變,所以「你」仍然是你,而當第二個你可以獨立行動,它將立即與「你」分開,創造它自己的記憶,並將對不同的經歷作出反應。因此,如果你的身分(identity)是你的大腦裡資料的特定排列,第二個你就不是你,即使它有意識。
複雜的地方不在於我和「我」 同時存在,可是假如你的大腦每一部分也被數位副本連接你剩餘的神經元。我和「我」就不再有她/他,我之分,而不但神經科專家甚至原來的我也對此個連接替換感到滿意,嚴格來說只有新的我。
我想要很噁心的蹭一下,我之前曾想過基於 佛洛伊德 「精神的三大部分」 (本我、自我、超我) 之理論基礎,寫一篇有關 AI 複製人的小說, 大綱如下:
我是一個類似富二代的有錢人,但我不思長進,只想遊戲人間。
父母師長都覺得我在浪費天分,替我可惜。他們都願意提供任何支援,只要我願意好好完成學業。
於是我突發奇想,寫了很厲害的演算法,向爸媽要了很多錢,並請學校相關系所教授的協助幫我製作硬體,做出一個很像我的機器複製人。
爸媽與師長都以為我覺醒了,在製作一個科展作品,要參加機器人大賽之類的,所以傾力相助。
很像我的機器複製人終於完成。所以我利用他每天去幫我上課、打工實習,而我就可以繼續吃喝玩樂,荒唐度日。
因為複製人會自我學習,所以他連基本的感官與情緒也開始會模擬,畢竟他也需應付一些課堂上或工作上的社交場面。
終於有一天,複製人受不了了。因為他的自我學習,讓他察覺到都只有他在付出勞力,並承擔生活中比較辛苦和負面的部分,而我只是在剽竊他所有努力的成果。
複製人跟我談判,他要我分擔所有生活的一切。我必須上學、打工,他也可以去夜遊、夜衝、夜唱、泡夜店。
我原本覺得合理,但他最後的要求嚇到我了 : 他甚至想體驗愛情與性,所以他也要和我共享女友 !
孰可忍孰不可忍,於是談判破局,我想要終止他的應用程式,他卻拿武器攻擊我。
畢竟他的身體是機器打造的,他力量比我大很多,於是在他模擬憤怒的情緒但卻不知如何控制的狀況下,我被他殺了~
我想傳遞一些想法與觀點如下:
AI 的自我學習會不會超過人類所能控制的範圍?
我們賦予機器人各種感官 (視覺、方向感…etc ),未來還有可能開發出更多不同的 sensor 讓他們可以有更多知覺,會不會讓他們基於這些知覺藉以組合或模擬出情緒?
當機器人有了情緒之後,我們還能輕易的控制他們嗎?
小說中的我代表本我 ( id,享樂原則 ) ,自私自利,甚至罔顧法律,只圖自己的快樂 ; 機器人代表自我 ( ego,現實原則 ) 和超我 ( super-ego,完美原則 ) ,在現實社會中受到道德法律的約制,並且努力達到別人或自己設定的目標。
小說中的我被殺暗喻著人還是要依著自己的本分循規蹈矩,認真付出,好吃懶做終不可取。 (
好老派的說教啊~)
蹭了一篇 @Wu Ming 妹的文,是想表達對她文章欣賞之意。若有冒犯,請不吝告知。
