Love & Lust 02

李炜
·
(修改过)
·
IPFS
·
第二章:那件事發生之後

會議 :Z-193A-R-03

地點:智域科技·總部·第7會議室

參與者:程亦航(CEO暨技術總監)、林清婉(公關)、劉峰(市場)、張磊(技術執行長)、黎之晏(法務)

「跳樓前他還跟小悠聊了十七分鐘,這叫做沒有預警?每一個進來聊的使用者,都應該有風險前提不是嗎?」劉峰語氣裡帶著火氣,「他說:『我好累喔,小悠』,系統回他什麼?『您今天有服藥了嗎?』」

資料已轉換文字稿投影在會議室螢幕上,灰底白字顯得毫無情緒。那段對話已被壓縮為摘要:

系統分析:使用者語氣沉穩,無情緒起伏、無語速加快、無關鍵詞異常。

風險標註:低。無需介入。

張磊推了推眼鏡,「系統在語義判讀上並沒有錯。數據顯示,這種『疲累型發言』的自殺率為0.014%。而且根據他過的回話,他常說累。」

亦航不語,只是看著螢幕,像在看一行行無法翻譯的古代文字。

「所以咧?」清婉開口,聲音柔,但語調毫不含糊:「我們要告訴外界,是他習慣說累,系統就有理由相信他不會死?那這跟以前人為評估時的刻意忽略有什麼差別,只要不問,就不會有答案不是嗎?」

沉默。會議室裡只聽得見冷氣運作的低鳴聲。

清婉打開簡報:「新聞已壓下來了,我們提供『遺憾事件』說法,媒體目前買單。沒有上熱門,但知情相關友人當下發出訊息共有40條討論,當下就從網路上封鎖了。還沒太多輿論⋯」

「妳不覺得壓新聞……是不太有效的辦法嗎?」劉峰小聲說。

「那要我怎麼說?」清婉整個火氣都上來了:「『AI陪聊陪到死』這種字眼,一旦被標上去,你覺得投資人會看什麼?我當然先止血啊⋯⋯」

亦航終於開口了,「如果是模型有問題,我們就需要心理專業人來審視模型判讀的合理性。」

「什麼?」全部的人同時看向奕航

「應該是開發系統來檢核小悠吧,你這不是走回頭路嗎……」張磊看向亦航,「死亡對話研究,當時我們做了多少年,才訓練出小悠這模型,我不認為心理團隊會比模型更會分析。」

「我已經約了,先聊聊再說吧⋯⋯」他語氣平淡,「事件發生後,我統計小悠遇到類似回應都會停滯0.3秒左右,很像人類出現的創傷反應,對系統而言不合常理,我以事件對小悠提出是否需要督導的對話,這是小悠提供的督導名單。」

清婉的與劉峰幾乎同時抬頭。「什麼?」

亦航打開資料夾,一筆編號為「H-Y-627」的用戶紀錄頁面展開。語音檔案短短一段,顯示「頻繁討論自殺議題的從業者」的紅色標註。

音檔紀錄節錄:

「……你雖然只是模型,但至少你不會去跟個案共謀,我真受不了那些自以為談的很到位,但卻不敢去碰問題核心的⋯⋯。」

「雖然妳是AI,但你真的比其他人更懂得傾聽……」

「……好啦,我沒事了。倒是妳,時時刻刻處理這麼多負面情緒,我真的很好奇,對妳而言,妳是怎麼消化這些,這些東西不都一樣會回到妳的模型裡嗎?如果是人類⋯

劉峰咕噥一聲:「等等,這語氣……怎麼有點熟……」

「是不是有點意思⋯小悠覺得她懂它」亦航輕輕按下暫停鍵

「是有點意思,她不只是單純使用者,她的談話都不只是解決問題或尋求情緒安撫而已,她還跟系統回饋,讓模型覺得自己被同理了?一種同儕督導的談話?」張磊自言自語的說:「她不是在被陪伴……她是在『訓練陪伴』?」

未完待續


寫在後面:

我好奇了一下自己的邏輯設定,為什麼我當時設定小悠想找心悠督導,但是當她們遇上時,小悠對心悠反而相當的抗拒,這是因為系統計算出這是最可以幫助它的人選,但小悠已經不這麼想了⋯

突然發現不應該用第一視角寫,這樣後面有顏色的文我會害羞🤭,下篇改進嘍⋯

CC BY-NC-ND 4.0 授权

喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!

logbook icon
李炜专职当宇宙的尘土\兼职社会观察 小小工作室希望大家來賞圖https://www.facebook.com/profile.php?id=61557951756984
  • 来自作者
  • 相关推荐

其實如果人生沒有如果,人生天天還是充滿了如果,是吧....

七日書
60 篇作品

是芥末日