AI 開始替你行動,人還會剩下多少判斷?

Tony_Chan
·
·
IPFS
·

AI 最初只是回答問題。人問一句,它答一段。這種模式之下,人仍然站在行動的最後位置。AI 可以提供資料、草稿、建議和分析,但是否採用、怎樣修改、如何執行,仍然由人完成。

這個階段的 AI 最多是輔助工具。它改變的是效率,不是人的位置。但當 AI 開始由回答工具變成行動入口,問題就不同了。它替你發出電郵﹑替你排好會議﹑直接修改專案、跑測試、提交版本及替你整理、分派、回覆和追蹤。這時候,人與行動之間多了一層代理。表面上,人變得更有效率。很多瑣碎工作不需要親自處理,跨工具、跨文件、跨平台的流程可以交給系統完成。但效率提升的另一面,是人的判斷位置開始後退。人更常扮演指令發出者和結果批准者。

這個變化不一定有即時危險,但會慢慢改變人的能力結構。判斷是在處理事情的過程中形成的。人要看過資料、比較選項、理解限制、承受錯誤、面對後果,才會逐步建立判斷力。如果中間過程長期被 AI 接手,人可能仍然以為自己在決策,但實際上已經不再參與判斷生成的主要環節。例如一封重要電郵,判斷不只是文字是否禮貌,也涉及該不該回、回到哪個程度、保留多少餘地、承認甚麼、不承認甚麼、語氣應該強還是弱。這些是處境判斷。當 AI 直接生成並代為發送,人很容易只檢查表面是否通順,卻沒有重新理解整個語境。程式開發也是一樣。AI 可以幫人改 code,但重要的是人是否理解它改了甚麼、為甚麼這樣改、會不會造成後續風險。如果人只看結果通過測試,就批准提交,判斷責任表面上仍在人手上,實際上已經有一部分轉移到系統黑箱之中。

最大的危機是人逐漸失去追問能力。當 AI 只是給答案,人仍然需要問下一個問題。當 AI 直接完成任務,人可能連下一個問題都不問。因為結果已經出現,流程已經完成,表面上沒有必要再追問。久而久之,人會習慣接受一個看似完整的輸出。這會造成一種新的依賴。以前人依賴工具,是依賴工具幫自己做得更快。但 AI 代理不同,它不只是加速既有動作,也重組人參與世界的方式。人把目標交出去,把過程交出去,最後只保留批准權。這種批准權看似仍然代表主導,但如果批准者已經無法理解過程,批准就會變成一種形式。

責任也會由此變得模糊。如果 AI 寫錯一段文字,人可以改。但如果 AI 替你安排錯會議、發錯訊息、引用錯資料、改錯文件、錯判客戶語氣,後果就會進入現實流程。到時候,究竟是使用者沒有檢查,還是平台設計得不夠透明?是模型錯誤,還是授權邊界太寬?是人的責任,還是系統的責任?這些問題不容易回答,因為 AI 行動入口本身就是一個責任混合區。人下指令,系統解釋指令,工具執行動作,平台設計流程。每層都有影響,但每層都可以把責任推向另一層。所以,AI 替人行動之後,最重要是它如何讓人保持判斷。

一個健康的 AI 代理應該在關鍵位置讓人重新看見選項、理由、風險和後果。低風險工作可以自動化,高風險決策必須保留清晰的確認機制。不是每一件事都要人手操作,但人必須知道自己究竟授權了甚麼。危險之處在於這是一種過度順滑的 AI 體驗。當系統太順滑,人會以為沒有摩擦就是好設計。但判斷往往需要摩擦。停一停、看一看、問一句「為甚麼」,這是責任仍然存在的證明。如果所有摩擦都被移除,人可能會在不知不覺間,把理解、取捨和承擔一起外判出去。

AI 開始替人行動是技術進步,也是人的位置重組。未來的問題是人在使用 AI 之後,還剩下多少判斷能力。若 AI 只是幫人減少重複勞動,它是工具。若 AI 讓人逐漸不再理解自己的行動,它就不只是工具,也是新的依賴結構。

回答工具時代,人問 AI 要答案。行動入口時代,人叫 AI 替自己做事。而人類需要守住的是人在事情被完成之前,仍然有能力理解它為甚麼應該這樣完成。

CC BY-NC-ND 4.0 授权

喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!

Tony_Chanhttps://mypaper.pchome.com.tw/1471990
  • 选集
  • 来自作者
  • 相关推荐