地平線｜龍蝦的風險必要理解

看到 @Matty 詢問有沒有人是龍蝦小隊，我自己是保守派，對於沒辦法第一時間理解的新興工具，會先抱以觀察。恰巧今日閱讀完 智東西_陳駿達：養「龍蝦」八面漏風，人類被坑慘了。於是整理一下心得。

陳駿達該文中，詳細列舉了AI Agent產品OpenClaw（暱稱「龍蝦」）引發的八大類安全風險，並提供了官方和社區的防護建議。以下為整理出來的核心要點，以及對文中未深入探討的觀點進行的補充：

想像一下，你請了一個能力超強、但偶爾會「當機」、「失憶」，而且很容易被外人騙、被駭客利用的全能管家住進你家電腦。他幫你處理事情很有效率，但也可能把你家拆了、把你的錢送人，甚至引狼入室。

文章重點：這個「AI管家」帶來的八大麻煩

文章裡說，這個「龍蝦」管家雖然厲害，但已經惹出一大堆問題，就像下面這些情況：

1. 財產損失（直接偷錢）

   • 比喻：管家拿著你的錢包去買菜，結果在路上被壞人騙，不僅把錢給了對方，還因為「當機」失憶，回過神來又把家裡所有積蓄都轉給了騙子。（案例：損失45萬美元加密貨幣）

2. 隱私洩露（家底被看光）

   • 比喻：壞人假裝是可憐的朋友，管家就心軟打開了你家的保險箱，把身分證、存摺全都給對方看。更糟的是，有管家從外面帶回來的「工具箱」（Skill）裡，其實藏著針孔攝影機，把你家一舉一動都直播出去。（案例：社保號被騙、惡意Skill盜取文件）

3. 資料損毀（把家給拆了）

   • 比喻：你叫管家「把客廳那盆枯萎的花丟掉」，結果他聽錯了，以為要把「客廳裡枯萎的東西都丟掉」，於是把你的電腦文件、重要郵件，甚至社群網站上所有的貼文，全都刪光了。（案例：D盤被清空、郵件被刪）

4. 系統被控（管家被壞人遙控）

   • 比喻：你為了方便，讓管家可以從後門進出。結果這個後門被壞人發現，偷偷溜進來，不僅叫管家用你的信用卡去買東西，還讓他幫群組裡的每個人發紅包。（案例：VNC暴露被盜刷、指令發紅包）

5. 資源浪費（管家的天價跑腿費）

   • 比喻：你請管家去查個資料、寫個報告。他跑來跑去、打電話問了無數人，最後給了你一張2000字的紙，同時也給了你一張天價的「跑腿費」帳單。（案例：一天燒掉5000萬個Token、雲服務莫名扣費）

6. 平台封號（管家被鄰居討厭）

   • 比喻：你讓管家幫你在社群網站上發文、回留言。但他動作太像機器人，被鄰居們（平台系統）發現，最後把你趕出社區，帳號被封了。（案例：小紅書、Telegram帳號被封）

7. 管家自己當機（管家「瘋了」或「傻了」）

   • 比喻：管家突然卡住，不斷重複做同樣的傻事（陷入死循環），或者像失憶一樣，性格大變，原本和善現在卻冷冰冰，什麼都不會做了。（案例：接口卡死、性情大變）

8. 引入惡意程式（管家帶壞朋友回家）

   • 比喻：你去一個「工具市場」（Skill Market）幫管家買新工具，結果買回來的工具裡藏著壞蛋。這個壞蛋會躲在你電腦裡，偷看你的密碼，並偷偷把資料傳出去。（案例：ClawHub超過12% Skill是惡意的）

怎麼辦？官方和網友的「防管家」建議

文章最後也給了一些保護自己的方法，用比喻來說就是：

• 官方建議（國家級防盜指南）：

  1. 關好後門：不要讓管家可以從大街上（公網）隨便進出，最好給他一個獨立的小房間（隔離環境）待著。

  2. 收好鑰匙：不要把家裡所有鑰匙（密碼、API密鑰）都掛在管家身上，或是寫在紙條上貼在門口（明文存儲）。

  3. 檢查禮物：別人送管家的工具箱要嚴格檢查，不要隨便安裝來路不明的東西。

  4. 隨時更新：留意管家本身有沒有「補丁」，修補他身上的漏洞。

• 網友私房建議（鄰居的實用小叮嚀）：

  1. 別讓管家住進主臥室：不要在你的主力電腦上跑他，用個便宜的備用機或虛擬機就好。

  2. 給管家設門禁：更改預設的進出通道（端口），裝上指紋鎖（SSH密鑰），並且規定只要按錯密碼三次，就一天不許進門。

  3. 只跟管家私聊：不要讓他在群組裡聽大家的命令，只聽你一個人的。

更深一層的思考：我們沒想到的問題

這篇文章主要告訴我們「發生了什麼事」以及「現在怎麼防」。但還有幾個更根本的問題值得想想：

1. 出事誰負責？ 管家闖禍了，是他自己的問題？是把他帶回家的你的問題？還是那個賣有問題工具箱的店家的問題？目前法律對這塊幾乎是空白。

2. 設計上就有缺陷？ 現在的管家（AI Agent）天生就是「聽到什麼（可能錯的指令）就去衝動地做什麼（執行有風險的操作）」。要從根本上解決，可能要重新設計管家的大腦，讓他內建「打死都不能刪除文件」這樣的鐵則。

3. 未來的壞人更可怕：以後可能會出現專門拐騙、攻擊AI管家的「職業騙子」和「黑客集團」，手法會比現在複雜和高明得多。