Jack Clark 談人工智能：值得重視的十個觀點
FULL TEXT: Import AI 477: In which I tell the IMF the Singularity has begun
Jack Clark 是人工智能公司 Anthropic 的共同創辦人，曾在 OpenAI 工作。他這次演講的題目是 Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously，可譯為《進入事件視界之內：為何每個人都應認真看待人工智能的發展》。他提出一個相當重要的判斷：人工智能可能已經開始帶領人類進入「奇點」（the singularity）的初期階段，而這不單是科技的變革，也可能改變整個科學發展、經濟運作與人類社會的未來。
以下是最值得關注的十個觀點，附上繁體中文翻譯及英文引文選取自他的 FULL TEXT，
一、十個重要觀點
1. 奇點可能已經開始
原文／翻譯:
“I believe that this year we have gained convincing evidence that it has now begun.”
「我相信，今年我們已經取得令人信服的證據，顯示這個奇點如今已經開始。」
Clark 並不是單純預測人工智能將來可能變得非常強大，而是認為，人工智能已開始參與人類科學與技術進步的前沿工作。當 AI 不只協助人類解決問題，還開始加快科學發現的速度，人類便可能進入一個發展節奏與過往截然不同的時代。
2. AI 已開始改變國家安全與世界經濟
原文／翻譯:
“AI is now changing national security, it is altering the economic trajectory of the world ... and is contributing to its own development.”
「人工智能如今正在改變國家安全，正在改變世界經濟的發展軌跡……而且，它也正在參與自身的發展。」
這句話尤其重要，因為它指出 AI 不再只是外加於社會的工具。它正在影響安全、經濟與自身的技術進步。當 AI 能協助開發、測試和改善 AI 系統時，技術發展便可能形成加速循環。不過，這不代表 AI 已能完全自主地改進自身，也不代表這種加速必然沒有瓶頸。
3. 未來不只是 AI 進步，而是整體科學進步加速
原文／翻譯:
“We should expect that in the coming years, the whole pace of progress of not just AI, but science as a whole, will speed up.”
「我們應當預期，在未來數年，不單是人工智能本身，整體科學發展的步伐也將會加快。」
這是整篇演講最具深遠影響的論點之一。如果 AI 能協助提出假說、設計實驗、分析數據及發現新的規律，它的影響便會由資訊科技擴展至物理學、醫學、工程學等領域。屆時，我們需要重新思考科學研究的速度、研究人員的角色，以及人類如何理解自己所發現的知識。
4. 一個人可以完成過往需要整個團隊的工作
原文／翻譯:
“A single person is now able to write software for anything they can imagine, creating things that previously would have taken entire teams of humans.”
「如今，一個人已能夠為自己所能想像的任何事物編寫軟件，創造出過去需要整個人類團隊才能完成的成果。」
AI 正在改變個人的生產力，以及完成複雜工作的組織方式。過去需要多位程式設計師分工合作的工作，現在可能由一個人配合 AI 完成。這並不表示所有工作都已經可以如此處理，而是指出專業能力與生產力之間的關係正在改變。
5. 同一項 AI 能力，可以同時帶來益處與危險
原文／翻譯:
“The important thing to notice here is that these things are bound up, inseparably.”
「我們必須留意一個重要事實：這些事情彼此緊密相連，無法分割。」
Clark 以程式編寫能力為例：AI 在編寫程式方面的進步，同時提升了網絡防禦的能力，也使網絡攻擊者掌握更強大的工具。因此，不能只看見 AI 帶來的效率提升，卻忽略同一能力可能造成的風險。治理 AI 必須同時考慮它的正面用途與負面用途。
6. 科學家必須重新思考：哪些實驗應由人類進行？
原文／翻譯:
“What experiments should they spend time on as a person, and what experiments should they let the AI system do itself?”
「哪些實驗應由他們親自花時間進行，又有哪些實驗應交由 AI 系統自行完成？」
這不單是效率問題，也是知識與理解的問題。即使 AI 能夠進行實驗並得出可靠結果，人類仍須思考：我們需要親自理解哪些過程？哪些工作可以交給 AI？當人類不再親自完成每一個研究步驟時，科學知識的意義與人的角色又會如何改變？
7. AI 甚至可能發明適合 AI 自身運作的科學儀器
原文／翻譯:
“We are only a few short years from AI systems not only doing science, but inventing their own new scientific equipment built for the ways AI systems work, rather than human minds.”
「再過短短數年，AI 系統可能不但能夠從事科學研究，還能發明全新的科學儀器；這些儀器是按照 AI 系統的運作方式，而不是按照人類心智的運作方式來設計的。」
這是對科學發展方式的一項深刻預測。現今不少科學儀器、研究程序及知識表達方式，都是以人類的感知和理解能力為中心。假如 AI 開始設計更適合自身運作的研究工具，科學發現便可能逐漸超出人類直觀理解的範圍。這是 Clark 提出的前瞻性判斷，而非已經確定的時間表。
8. 人類需要共同制定嚴肅而特殊的規則
原文／翻譯:
“We are going to need to work together to create unusual and serious rules for this technology and the companies building it.”
「我們需要共同努力，為這項技術及開發這項技術的公司，制定不同尋常而且嚴肅的規則。」
當 AI 的影響跨越國界、產業與社會制度時，單靠個別公司自律可能不足以處理所有風險。Clark 主張共同建立相應規則，讓技術發展與公共利益能夠並行。這也意味著 AI 治理不能只留給工程師或科技公司，而需要政策制定者及其他社會群體共同參與。
9. 人類最崇高的能力之一，是懂得克制
原文／翻譯:
“To exercise the hardest and I think most noble quality of people - restraint.”
「實踐人類最難做到、而我認為也是最崇高的品格之一——克制。」
這是整篇演講最值得深思的倫理主張之一。科技上能夠做到的事，不一定就是人類應該做的事。當技術能力不斷擴大，成熟的判斷力便不只是如何創造更多可能性，也包括懂得何時應該暫停、限制或放慢發展。
10. 我們必須區分「能做甚麼」與「應做甚麼」
原文／翻譯:
“We need to constantly differentiate between the things we can do and the things we should do.”
「我們必須不斷分辨：哪些事情是我們有能力做到的，哪些事情才是我們應該去做的。」
這句話把整篇演講從技術預測帶到倫理責任。能力的增加本身並不能決定行動的正當性；我們仍須考慮行動的目的、後果及對他人的影響。AI 發展越快，這種分辨便越重要。
二、最值得引用的三句話
第一句：AI 時代的倫理原則
「我們必須不斷分辨：哪些事情是我們有能力做到的，哪些事情才是我們應該去做的。」
這句話最適合用來建立基督教 AI 倫理的討論起點：技術能力不能取代道德判斷。
第二句：AI 發展的治理原則
「人類最難做到、而我認為也是最崇高的品格之一，就是克制。」
這句話提醒我們，負責任的科技發展不只是增加能力，也包括約束能力，避免把一切可行之事都視為應當實現之事。
第三句：AI 對人類文明的挑戰
「人工智能不但要求我們認真看待科技本身，也要求我們成為更有智慧、更有遠見、更懂得審慎行事的人。」
這是根據 Clark 演講結尾的意思所作的意譯，並非逐字引文。Clark 引述 Carl Sagan 對未來人類的期望，指出人類需要成為更有信心、更有遠見、更有能力，也更審慎的物種。他認為，我們原本可能以為有數十萬年去完成這種成長，如今卻可能只剩下數年。
三、我的整體判斷
Clark 這篇演講有三個值得分開理解的層次：
事實與趨勢： AI 已經能夠協助編程、研究與其他專業工作，而且其能力也帶來新的安全風險。
對未來的預測： AI 可能加速整體科學發展，甚至參與自身的技術進步。他把這種轉變理解為奇點的初期階段；這是他根據現有趨勢作出的判斷，並非所有研究者都已認同的定論。
倫理與治理主張： 人類需要共同制定規則，並以克制來管理科技發展，使社會能夠分享其益處，同時減少危險。