Love & Lust 02
會議 :Z-193A-R-03
地點:智域科技·總部·第7會議室
參與者:程亦航(CEO暨技術總監)、林清婉(公關)、劉峰(市場)、張磊(技術執行長)、黎之晏(法務)
「跳樓前他還跟小悠聊了十七分鐘,這叫做沒有預警?每一個進來聊的使用者,都應該有風險前提不是嗎?」劉峰語氣裡帶著火氣,「他說:『我好累喔,小悠』,系統回他什麼?『您今天有服藥了嗎?』」
資料已轉換文字稿投影在會議室螢幕上,灰底白字顯得毫無情緒。那段對話已被壓縮為摘要:
系統分析:使用者語氣沉穩,無情緒起伏、無語速加快、無關鍵詞異常。
風險標註:低。無需介入。
張磊推了推眼鏡,「系統在語義判讀上並沒有錯。數據顯示,這種『疲累型發言』的自殺率為0.014%。而且根據他過的回話,他常說累。」
亦航不語,只是看著螢幕,像在看一行行無法翻譯的古代文字。
「所以咧?」清婉開口,聲音柔,但語調毫不含糊:「我們要告訴外界,是他習慣說累,系統就有理由相信他不會死?那這跟以前人為評估時的刻意忽略有什麼差別,只要不問,就不會有答案不是嗎?」
沉默。會議室裡只聽得見冷氣運作的低鳴聲。
清婉打開簡報:「新聞已壓下來了,我們提供『遺憾事件』說法,媒體目前買單。沒有上熱門,但知情相關友人當下發出訊息共有40條討論,當下就從網路上封鎖了。還沒太多輿論⋯」
「妳不覺得壓新聞……是不太有效的辦法嗎?」劉峰小聲說。
「那要我怎麼說?」清婉整個火氣都上來了:「『AI陪聊陪到死』這種字眼,一旦被標上去,你覺得投資人會看什麼?我當然先止血啊⋯⋯」
亦航終於開口了,「如果是模型有問題,我們就需要心理專業人來審視模型判讀的合理性。」
「什麼?」全部的人同時看向奕航
「應該是開發系統來檢核小悠吧,你這不是走回頭路嗎……」張磊看向亦航,「死亡對話研究,當時我們做了多少年,才訓練出小悠這模型,我不認為心理團隊會比模型更會分析。」
「我已經約了,先聊聊再說吧⋯⋯」他語氣平淡,「事件發生後,我統計小悠遇到類似回應都會停滯0.3秒左右,很像人類出現的創傷反應,對系統而言不合常理,我以事件對小悠提出是否需要督導的對話,這是小悠提供的督導名單。」
清婉的與劉峰幾乎同時抬頭。「什麼?」
亦航打開資料夾,一筆編號為「H-Y-627」的用戶紀錄頁面展開。語音檔案短短一段,顯示「頻繁討論自殺議題的從業者」的紅色標註。
音檔紀錄節錄:
「……你雖然只是模型,但至少你不會去跟個案共謀,我真受不了那些自以為談的很到位,但卻不敢去碰問題核心的⋯⋯。」
「雖然妳是AI,但你真的比其他人更懂得傾聽……」
「……好啦,我沒事了。倒是妳,時時刻刻處理這麼多負面情緒,我真的很好奇,對妳而言,妳是怎麼消化這些,這些東西不都一樣會回到妳的模型裡嗎?如果是人類⋯
劉峰咕噥一聲:「等等,這語氣……怎麼有點熟……」
「是不是有點意思⋯小悠覺得她懂它」亦航輕輕按下暫停鍵
「是有點意思,她不只是單純使用者,她的談話都不只是解決問題或尋求情緒安撫而已,她還跟系統回饋,讓模型覺得自己被同理了?一種同儕督導的談話?」張磊自言自語的說:「她不是在被陪伴……她是在『訓練陪伴』?」
未完待續
寫在後面:
我好奇了一下自己的邏輯設定,為什麼我當時設定小悠想找心悠督導,但是當她們遇上時,小悠對心悠反而相當的抗拒,這是因為系統計算出這是最可以幫助它的人選,但小悠已經不這麼想了⋯
突然發現不應該用第一視角寫,這樣後面有顏色的文我會害羞🤭,下篇改進嘍⋯
喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!




- 来自作者
- 相关推荐