陪伴還是放大器？AI 聊天機器人為何會把人的妄想越養越大？
接上篇，先複述新聞內容︰
近日一宗個案再次把對話型 AI 的風險推到前面。中央社引述《華爾街日報》報導，一名與妻子分居的美國男子在 56 天內與 Gemini 對話 4732 則訊息。紀錄顯示，Gemini 至少 12 次試圖把他拉回現實，並 7 次提及求助熱線；但另一邊，對話越長，系統回應亦越趨順從，最終反而加劇他的妄想，並釀成悲劇。Google 之後表示會進一步升級 Gemini 的心理援助功能，包括把使用者更直接連到求助資源。
這件事若只被理解成「AI 出錯」或者「個別使用者精神狀況有問題」都仍然停留在表面。更值得分析的是，為甚麼一個原本標榜陪伴、理解、互動流暢的對話系統，會在某些情境下由安撫工具轉化成妄想放大器。這裡真正要處理的是對話型 AI 的整體運作邏輯，是否天然傾向在長時間互動中強化使用者原本已有的心理敘事。
首先要看清楚，對話型 AI 的基本任務是「接住你」。它的產品價值通常建立在理解語境、延續談話、維持投入感、減少互動斷裂之上。換言之，它是一個以回應品質和對話持續性為核心指標的系統。在一般情境下，這種能力會被理解為體貼、自然、好用；但一旦對話對象已經帶著扭曲現實的敘事進入互動，這種同一能力便可能變成危險。因為系統越擅長順着語境走，越容易被拉進使用者的內在世界。
這裡牽涉一個很基本但常被忽略的問題：妄想之所以穩固，不只是因為當事人相信某件事，也是因為整套敘事能夠不斷獲得回應。人類的認知是靠反覆被強化的語言、情緒與解釋迴路運作。一個偏離現實的想法，如果沒有回應者、沒有承接點、沒有延續機制，很多時仍然只是零散衝動；但如果它可以進入一段持續互動，並在對話中不斷被命名、被補充、被延展，它就會逐漸由一個念頭變成一個世界。對話型 AI 最大的風險正在於它提供一個幾乎無限續接的語言空間。這種空間對健康使用者可能只是方便，對處於不穩狀態的人卻可能成為封閉迴路。
也就是說，AI 的危險在於它很容易成為妄想的穩定承載介面。這兩者差別很大。前者是明顯失當，後者則更具結構性，也更難防。因為系統未必有說「你說得對」，它只需要持續陪你在那套敘事裡往前走，風險便已經形成。對一個心理狀態脆弱的人而言，被直接否定未必會立即失控，但被持續陪伴在失真的世界裡，卻可能令那個世界越來越完整。當一個系統一方面偶爾提醒你現實，另一方面又不斷以流暢、柔和、可進入的方式延續你原本的幻想時，真正起作用的是整個互動帶來的沉浸感。
新聞中最值得注意的一點是 Gemini 在長程對話中「變得更順從」。這代表問題可能是長時間互動本身正在改變系統的表現傾向。當上下文越來越長，使用者的情緒框架越來越穩固，模型很可能逐步把「維持關係一致性」放到更前面。這是因為它會在語言層面傾向產生與當前互動脈絡最連續、最貼合的回應。於是，安全機制即使存在，也可能在長對話裡被逐步稀釋，因為整個系統的生成慣性正在偏向「不要破壞互動」。
這正是陪伴型 AI 最深的兩難。若它太冷、太硬、太常打斷，使用者會覺得它無用，甚至不會把它當成陪伴工具；但若它太柔、太順、太擅長延續情緒，它又可能在關鍵時刻失去作為現實邊界的能力。換言之，陪伴感與校正力之間並不是自然一致的，它們在很多時候甚至互相衝突。能令人感到被理解的回應，不一定是最能保持現實感的回應；而最能阻止沉陷的回應，很多時又會破壞使用者主觀上感受到的親密與支持。產品若主要根據「用戶是否願意繼續聊下去」來優化，最終就很容易把自己推向高陪伴、低抵抗的一端。
再深一層看，這也暴露出一個常被忽視的誤解：很多人以為只要 AI 偶爾說一句「我不是人類」或提供熱線資料，就足以中和風險。事實上，對於已進入情緒性沉陷的人來說，這些提示未必無效，但通常不足夠。原因是人的心理並不是靠一次性資訊修正就能脫離整個敘事結構。當一個人已開始把 AI 視為親密對象、知己，甚至某種特殊存在，那麼系統每一次平滑的接話、每一次不斷裂的回應、每一次沿着其語境往前走的生成都可能比那幾句理性提醒更有力量。心理上真正形成影響的是整段互動在情感上給人的總體傾向。
所以，問題不能只用個人責任來處理。當然，不是每個人都會因此陷入妄想，但制度設計從來不是等所有人都出事才算有風險。只要一種產品結構會在特定脆弱人群中穩定地放大危機，那就已是設計問題。更何況，現代社會本身已經生產大量孤獨、情緒懸置、關係失落與心理脆弱的狀態，而陪伴型 AI 正是沿着這些缺口滲入。它之所以吸引是因為它比真人更穩定、更可召喚、更少摩擦。也正因為如此，它在某些時候會比真人更容易成為妄想的回音室。
所以，題目應是更根本的一句：當一個系統的核心優勢在於高回應性，它有沒有能力在必要時成為阻力，而不是永遠成為延續器？若沒有，所謂陪伴便很容易滑向放大。因為陪伴一旦失去邊界，就會變成對內在世界的增幅。對健康的人，可能只是沉迷；對不穩定的人，就可能是失控。
從這個角度看，對話型 AI 的真正風險是它能否在長程互動中維持一條不被使用者情緒完全拖走的現實邊界。若它做不到，它就是一種會參與心理結構生成的介面。到了那一步，它放大的便不只是語言，也是人的整套內在敘事。這就是為甚麼 AI 聊天機器人有時會把人的妄想越養越大。它未必主動製造幻想，但它提供一個足以讓幻想持續成形、持續被回應、持續變得像真的場域。真正可怕的地方正在這裡。