有一天，AI會代表你說話，但那真的是你說的嗎？
剛剛在張文鈿的臉書看到一份轉述，來自Simon Willison，Willison認為只要任何一個AI agent 可以做到以下三件事：
用你的帳號，讀取你的私人文件
用你的帳號，在網路上留下紀錄
用你的帳號，向外發送資訊
這 AI agent 一旦被駭客入侵，就可以在你不知情的時候，偷偷代表你。
這個問題終於爆開了。Simon Willison的說法是個不錯的開始。畢竟無論AI還是人類，只要某個功能能做到這些事，社會就會認為他是你的代理人，甚至是你本人。
這就像是在物理世界，拿著你的私章跟授權書，到處幫你買車買房、簽合約、發布公開言論。
(順帶一提，前陣子的自然人憑證事件就是這樣。自然人憑證不太像是身分證件，反而像是數位私章。把私章拿給別人，通常就等於讓對方代表你)
大家都知道「被代表」有多危險，以及壞人會用多少方法來入侵這些管道，所以一直有些說法，試圖阻止 AI 獲得這些能力。
但我認為這是擋不住的，因為我們都會希望有人幫我們處理各種雜事。
我們都不喜歡浪費時間寫某些報告、公文、信件，希望這些事情自動完成
我們都希望能夠買到符合需求的產品、讀到有用或舒心的文章
我們都希望，甚至需要有人來幫忙安排行程，最好還能幫忙分配精力
我們都需要有人照顧健康、財務、安全等等基本後勤
剛好AI都做得到這些事，有需求就會有供給。
相關倫理與法律爭議？靠使用者同意書來規避 🙁
我目前認為，要在AI agent逐漸發展的過程中，防止各種越權、監控、偽冒，比較實在的方法，還是回頭好好建立 #數位身分 這個網路誕生以來一直被忽視的房間大象。以上述問題為例：
什麼叫做「你」需要的資訊，而非AI猜你要的資訊？
什麼叫做「你叫AI」整理的資料，而非AI自己偷看你電腦裡的資料？
什麼叫做「AI根據你的意思」幫你回信，而非AI擅自作主回信？
說得更極端一點，什麼叫做「你的帳號」，什麼叫做「你」？
落實兩者之間的區分，需要補齊很多元件，釐清很多似是而非的概念。
其中大部分都還沒有被好好討論，而且很多概念跟元件都還沒有獲得體制認可。
整個社會一直在用網路出現之前的個資、權利、授權框架，去處理deepfake、數位偽冒時代的事情，
然後AI agent要來了。 (攤手)
彌補這項漏洞需要很多研究，其中有一大半都是短期沒有產出的宅問題，例如
「我們需要名字才能有身分嗎」
「存取網路是一種人權，但它意指什麼元件或程序」
「越多人相信的身分，就越有可能為真嗎」
「我在什麼條件下，才能合理地幫未來的自己決定事項」
「身分是一種資料，還是一種關係」
「證件遺失、帳號遭竊、伺服器被飛彈炸爛後，我們到底根據什麼找回相關權利」
這些問題聽起來很高空，但都直接影響架構與規範的設計。
換句話說，會嚴重影響在我們在數位時代，以至於AI時代的權利，以何種形式被行使，何種形式被保障。
我自己正跟夥伴在研究這類問題。需要很多資工、法律、社科人一起討論。
如果你也覺得，方便、安全、信任在數位時代越來越難兼顧，也許你可以一起開始關心相關議題。
喜欢我的作品吗？别忘了给予支持与赞赏，让我知道在创作的路上有你陪伴，一起延续这份热忱！
- 来自作者
- 相关推荐